Påven Francis har försökt utrota korruption och andra övergrepp på banken, som hanterar kyrkans medel.
Franska finansiären Jean-Baptiste de Franssu tar över som bankchef från Ernst von Freyberg.
Banken kommer också så småningom att ge upp sin investeringsverksamhet för att fokusera på att tjäna religiösa order och välgörenhetsorganisationer.
Ernst von Freyberg utnämndes av före detta påven Benedict strax före hans pensionering i februari 2013 efter anklagelser om att Vatikanbanken hade använts av pengatvättare.
Men försöken att skapa ett mer öppet banksystem för katolska kyrkan kommer att fortsätta under ny ledning.
Hans efterträdare, de Franssu, sade att han såg det som ett uppdrag att "fortsätta ansträngningarna för öppenhet".
Vatikanens nya ekonomiska avdelning kommer att ledas av kardinal George Pell, som kommer att övervaka alla Vatikanens finansiella affärer och kommer att rapportera direkt till påven. Han kallades till Rom som ett resultat av ett årslångt försök att städa upp Vatikanens räkenskaper.
"Vår ambition är att bli något av en modell för ekonomisk förvaltning snarare än orsaka tillfällig skandal", säger kardinal Pell, den tidigare chefen för katolska kyrkan i Australien.
Analys: David Willey, BBC News Rom
Nyheten att hela styrelsen för den skandaldrabbade Vatikanbanken håller på att ersättas markerar en vattendelare i påven Francis nya regim av förändring och större öppenhet inne i Heliga stolen.
Det kom vid en nyhetskonferens som leddes av kardinal George Pell, från Australien, som just har tagit över som Vatikanens ekonomiska tsar. Hans senaste framträdande var i Sydney där han försvarade sin kyrka mot anklagelser om att dölja pedofilprästskandaler.
Kardinal Pell erkände att han inte var "snäll" på italienska. Italienarnas dominans i den romerska kurien, den centrala regeringen i den romersk - katolska kyrkan, som har varat i århundraden, håller långsamt på att urholkas under ledning av den dynamiska nya påven från Argentina.
Påvens engelska är inte flytande, men han förstår sina kardinalkollegers och biskopars önskan om en mer verkligt universell katolsk kyrka med utnämningar på toppnivå från alla kontinenter.
Bankens vinst sjönk i fjol till 2,9 miljoner euro från 86,6 miljoner euro 2012.
Dess otrygga ekonomiska situation avslöjades genom den samtidiga publiceringen i Rom av balansräkningar för 2013 av Heliga stolen, Vatikanstaten, en separat enhet, och Vatikanbanken, officiellt känd som Institutet för religiösa verk (IOR).
IOR flyttar pengar runt om i världen för att finansiera katolska uppdrag och tillhandahåller banktjänster för påven, prästerskapet och religiösa order.
Vid sidan av bankens massiva minskning av vinster, Heliga stolen, kyrkans administrativa högkvarter, sprang upp ett underskott på 24,2 miljoner euro (19,2 miljoner pund) förra året.
Men Vatikanstaten, den lilla suveräna enklaven i hjärtat av Rom, som får en stor del av sin inkomst från biljetter till Vatikanmuseerna, rapporterade en vinst på 32,3 miljoner euro (25,7 miljoner pund).
Bankens förluster tillskrevs delvis nedskrivningar av investeringar som gjorts innan bankens reformprogram inleddes och när mindre vaksamhet utövades.
Kostnaden för att ta in amerikanska experter på bekämpning av penningtvätt för att kamma igenom och granska omkring 18.000 enskilda konton i Vatikanen uppgick till 7,3 miljoner euro.
I en intervju med BBC: s David Willey i hans Vatikanbank kontor, Mr von Freyberg sade att han hade upptäckt "endast små" skelett i skåp IOR under sin mandatperiod.
"Det finns mycket mindre i IOR än vad folk tror. Vi är mindre än de flesta småstadssparanden och lån [banker] i världen och detsamma gäller våra skelett."
"Vad vi än hittade är mycket mindre än du kanske tror läsa upp om Vatikanbanken i media", tillade han.
Enligt IOR:s webbplats uppgår Vatikanbankens totala tillgångar till 5,9 miljarder euro.
Under von Freybergs ledning har omkring 3 000 kundrelationer avslutats, vilket innebär att cirka 15 000 checkkonton är aktiva.
Hela den högsta ledningen för Vatikanbanken kommer att ersättas som en del av omfattande reformer av katolska kyrkans centrala regering.