CM11:s pansarfordon med fem soldater återvände till basen när det föll i floden Wangsha i Pingtungs län i södra delen av landet.
Föraren och tankkaptenen överlevde.
Övningen var en del av förberedelserna inför nästa veckas årliga Han Kuang militära övning. President Tsai Ing-wen har framfört sina kondoleanser.
CM11 var tillbaka från ett eldprov vid ca 10:30 lokal tid (02:30 GMT) när ett uppenbart mekaniskt fel i en av spåren lämnade föraren oförmögen att göra en nödvändig vänstersväng, armén sade.
Föraren lyckades fly med ljusskador.
De fyra andra drogs oemottagligt ur fordonet. Kaptenen återupplivades och fördes senare till ett militärsjukhus i grannstaden Kaohsiung.
Soldaterna hörde enligt uppgift till åttonde arméns kommando.
President Tsai krävde en snabb utredning av orsaken till incidenten.
Hon är planerad att leda de militära övningarna, som simulerar möjliga attacker från Peking.
Ett taiwanesiskt bepansrat fordon har störtat ner från en tre meter lång bro i kraftigt regn efter en militärövning och dödat tre soldater, säger tjänstemän.