Han efterträder Laurent Fabius, 69, som tillkännagav att han på onsdag avgick som en del av en omväxling av kabinettet.
Ayrault är, liksom Fabius, en före detta premiärminister som leder regeringen från 2012-14.
Ledaren för De gröna, Emmanuelle Cosse, har utsetts till bostadsminister, och två andra gröna politiker har fått högre poster.
Segolene Royal - en före detta presidentkandidat och Hollandes före detta partner - har fått en utökad portfölj och blivit miljö-, energi- och oceanminister, sade Elyseepalatset.
Fabius betraktades som arkitekt till en interventionistisk utrikespolitik där franska trupper slogs mot militanta soldater i Mali och deltog i koalitionsstrejker mot den så kallade islamiska statsgruppen i Syrien och Irak under de senaste åren.
Fabius har utsetts att leda Frankrikes konstitutionella råd, som ser till att lagförslagen överensstämmer med konstitutionen.
Frankrikes president Francois Hollande har utsett Jean-Marc Ayrault till sin nya utrikesminister.