James Vaughan bröt dödläget på 61 minuter innan dubblering Shakers bly sex minuter senare.
Men Burys Niall Maher avskedades för att ha gett bort en 70-minuters straff, som Shaun Williams konverterade.
Callum Butcher ledde sedan en 86-minuters equalizer innan substitut Aiden O'Brien hävdade en stoppage-time vinnare för att stretch Burys klubb-skiva förlora springa till 10 matcher.
Mid-table Millwall fick faktiskt ett straff tidigt, bara för att domaren Chris Sarginson skulle ändra sig.
Vaughan då på väg bred och lagkamrat Neil Danns hade ett skott avböjde målet
Millwall svarade med Harry Smith och Fred Onyedinma på nära håll, medan Joel Martins frikick tipsades över efter pausen.
Men borgmästaren gick över till Vaughan för att gå in från baren innan Bury anfallare side-footed hem från en Scott Burgess permittering.
Ögonblick senare Onyedinmas målbunden ansträngning blockerades av Mahers arm och Williams svepte punkt-kick in i hörnet.
Väktaren Ben Williams höll ute en Onyedinma huvudet som Millwall pressade, men Lejonen jämnas som Butcher gjorde från Shane Ferguson frikick, innan O'Brien vände i Mahlon Romeo s låga kors.
Rapport från Pressföreningen.
Matchändar, Bury 2, Millwall 3.
Andra halvlek, Bury 2, Millwall 3.
Kelvin Etuhu (Bury) visas det gula kortet för en dålig foul.
Fred Onyedinma (Millwall) vinner en frispark i defensiva halvan.
Foul av Kelvin Etuhu (Bury).
Hörnet, Bury. Förföljd av Fred Onyedinma.
Försök blockerat. Danny Mayor (Bury) höger fotad skott från utanför lådan är blockerad.
Aiden O'Brien (Millwall) visas det gula kortet för överdrivet firande.
Mål!  Begravning 2, Millwall 3. Aiden O'Brien (Millwall) höger fotade skott från mitten av lådan till nedre vänstra hörnet. Hjälpt av Fred Onyedinma.
Försök missade. Harry Smith (Millwall) huvud från mitten av lådan är nära, men missar till vänster.
Försök missade. Antony Kay (Bury) huvudet från mitten av lådan är bara lite för hög efter en set bit situation.
Foul av Aiden O'Brien (Millwall).
Tom Pope (Bury) vinner en frispark på högerkanten.
Försök blockerat. Danny Mayor (Bury) höger fotad skott från utanför lådan är blockerad.
Mål!  Begravning 2, Millwall 2. Callum Butcher (Millwall) huvud från mitten av rutan till nedre vänstra hörnet. Hjälpt av Shane Ferguson efter en viss situation.
Hörnet, Millwall. Förföljd av Danny Mayor.
Substitution, Millwall. Alfie Pavey ersätter Joe Martin.
Hörnet, Millwall. Förföljd av Ben Williams.
Försöket räddades. Shaun Williams (Millwall) huvud från mitten av rutan sparas i nedre vänstra hörnet.
Försök missade. Harry Smith (Millwall) huvud från mitten av lådan missar till höger.
Försök missade. Callum Butcher (Millwall) vänster fotade skott från mitten av lådan är nära, men missar övre vänstra hörnet.
Substitution, Millwall. Callum Butcher ersätter Nadjim Abdou.
Försök missade. Tony Craig (Millwall) vänster fotade skott utanför lådan missar till vänster.
Foul av Kelvin Etuhu (Bury).
Mahlon Romeo (Millwall) vinner en frispark i anfallshalvan.
Försök missade. Harry Smith (Millwall) huvud från mitten av lådan är nära, men missar till vänster.
Antony Kay (Bury) visas det gula kortet.
Harry Smith (Millwall) visas det gula kortet.
Mål!  Begravning 2, Millwall 1. Shaun Williams (Millwall) konverterar straffet med en vänster fotad skott till nedre vänstra hörnet.
Niall Maher (Bury) visas det röda kortet.
Straff medgavs av Niall Maher (Bury) med en hand boll i straffområdet.
Mål!  Begravning 2, Millwall 0. James Vaughan (Bury) höger fotade skott från mitten av lådan till nedre högra hörnet. Hjälpt av Scott Burgess.
Försök missade. James Vaughan (Bury) höger fotade skott från utanför lådan är nära, men missar till höger.
Försök missade. Scott Burgess (Bury) vänster fotade skott från vänster sida av lådan är nära, men missar till vänster.
Substitution, Millwall. Aiden O'Brien ersätter David Worrall.
Mål!  Begravning 1, Millwall 0. James Vaughan (Bury) huvud från mitten av lådan till övre högra hörnet. Assisterad av Danny Mayor.
Hörnet, Millwall. Förföljd av Ben Williams.
Försöket räddades. Shane Ferguson (Millwall) vänster fotade skott från utsidan boxen sparas i toppen av målet.
Foul av Kelvin Etuhu (Bury).
Shaun Williams (Millwall) vinner en frispark i anfallshalvan.
Millwall återhämtade sig från två mål ner för att komma tillbaka till vinnande sätt med seger på 10-man Bury.