Utrikesminister Rex Tillerson sade att USA skulle överväga att samarbeta med Ryssland på vissa områden, men skulle stå upp för sina egna intressen.
Samtidigt sade USA:s försvarsminister James Mattis att Washington inte var redo att samarbeta militärt med Moskva.
USA:s president Donald Trump har krävt förbättrade band med Moskva.
Men den nya administrationens diplomatiska initiativ kommer som frågor ställs om Trump lagets affärer med Ryssland går tillbaka till förra årets valkampanj.
USA: s underrättelsetjänst har dragit slutsatsen att Moskva hackade sig in i e-post av president Donald Trump demokratiska motståndare under valet.
Rex Tillerson kan vara på en brant inlärningskurva i övergången från oljechef till toppdiplomat. Men utrikesdepartementets presskår håller också på att anpassa sig. Vi hade vant oss vid den Garrulous John Kerry, nu har vi hans motsats: Den tysta mannen.
Hittills har Mr Tillerson sparat bara några ord för oss, en "God morgon, ni alla" som vi gick ombord på planet i Washington. Och han vägrade flitigt att svara på frågor som ropades ut under korta ögonblick av pressåtkomst i början av sina möten i Bonn i Tyskland.
Så vi axlade vad vi kunde: han pratade om sin flygning med den saudiske utrikesministern och om jetlag med den turkiske utrikesministern. Den brittiske utrikesministern Boris Johnson fick honom att skratta med ett skämt om samväldet.
"Bra försök," Mr Johnson mumlade när vi lobbade en annan fråga, vilket föranledde mer skratt men inget svar. Vi blev glada när den ryske utrikesministern Sergej Lavrov gjorde inledande anmärkningar och förbryllade när vi fördes ut precis som Tillerson började svara.
Han gav oss ett 43 sekunders uttalande om Ryssland efteråt. Och så småningom några spontana ord medan frågorna fortsatte. Allt i en hård dags arbete
Och tre av Trumps medhjälpare har tvingats ut över anklagelser om sina förbindelser med Ryssland, däribland den nationella säkerhetsrådgivaren Mike Flynn tidigare i veckan.
Tillerson träffade Rysslands utrikesminister Sergey Lavrov vid sidan av ett G20-möte i Tyskland som en del av sin första utlandsresa i sitt nya jobb.
Han sade att USA är villigt att samarbeta med Ryssland om Moskva lever upp till sina åtaganden.
"Som jag klargjorde vid min Senat bekräftelse utfrågning, USA kommer att överväga att arbeta med Ryssland när vi kan hitta områden för praktiskt samarbete som kommer att gynna det amerikanska folket", sade han.
"Där vi inte ser öga mot öga, kommer USA att stå upp för Amerikas och hennes allierades intressen och värderingar.
Statssekreteraren tillade att han förväntade sig att Ryssland skulle uppfylla sitt åtagande i fråga om Minskavtalen i syfte att få ett slut på konflikten i Ukraina och arbeta för att stabilisera regionen.
Rysslands roll när det gäller att stödja separatister i östra delen av landet har stört förbindelserna med väst sedan konflikten inleddes 2014.
Lavrov sade att de båda parterna hade gått med på att samarbeta på områden där deras intressen sammanföll, särskilt i kampen mot terrorismen, över Syrien och i andra länder i Mellanöstern där "terrorismen har gett upphov".
Han sade dock att de inte diskuterade USA:s sanktioner mot Ryssland, som först infördes när Moskva annekterade Krim från Ukraina för nästan tre år sedan.
Mr Tillerson, som som ExxonMobil VD ansågs vara nära den ryska ledningen, berättade sin nominering utfrågning i senaten att han skulle överväga att se över sanktionerna.
Tillerson träffade också Storbritanniens Boris Johnson och andra utrikesministrar från G20, bestående av utvecklade ekonomier och tillväxtländer, däribland Kina, Indien, Indonesien, Mexiko, Sydafrika och Brasilien.
Vid ett Natomöte i Bryssel avslog general Mattis den ryske försvarsministern Sergey Shoigus uppmaningar att "återställa samarbetet med Pentagon".
"Vi är inte i en position just nu att samarbeta på en militär nivå, men våra politiska ledare kommer att engagera sig och försöka hitta en gemensam grund eller en väg framåt", berättade han reportrar.
Försvarsministern sade att Ryssland måste följa internationell rätt och tillade att det fanns "liten tvekan" om att Moskva hade ingripit eller försökt blanda sig i flera val i väst.
Höga amerikanska tjänstemän har redogjort för sin ståndpunkt om Ryssland, i några av den nya administrationens första diplomatiska åtgärder.