Indien cruising till deras mål på 349 - och den högsta framgångsrika runchase i Australien - som både Shikhar Dhawan och Virat Kohli gjorde hundratals.
Men Indien kollapsade från 277-1 till 323 allt eftersom Australien pace bowler Kane Richardson tog 5-68.
Aaron Finch gjorde 107 och David Warner 93 i Australiens 348-8.
Hemsidan hade redan förseglat fem-match serien och nu bly 4-0, mål en vitkalk i lördagens sista match i Sydney.
VM-innehavarna har nu också vunnit 18 på varandra följande ODI på hemmaplan.
Denna körning var i allvarlig fara vid Manuka Oval som Kohli och Dhawan lagt 212 för den andra wicket, med Kohli, 27, sammanställa en 25: e en dag hundra för att gå gemensam fjärde på den all-time listan.
Men efter att Dhawan klippt John Hastings till punkt, imploderade Indien.
Kapten MS Dhoni kantade Hastings bakom för en andra boll anka och, när Kohli lobbed Richardson till mitten av, Indien hade förlorat tre wickets för en körning.
Av resten var det bara Ravi Jadeja som gjorde dubbla figurer, med Richardson och Mitchell Marsh som sprang genom svansen.
Indien förlorade nio wickets för 46 körningar som Australien iscensatt en anmärkningsvärd kamp tillbaka för att vinna den fjärde en dag internationella i Canberra.