Men vinster för Kent och Lancashire senare på kvällen innebar att de eliminerades från tävlingen.
Colin Ingram slog 102 av 93 bollar i Glamorgans 251-9, med James Harris ta 4-38 mot sin gamla klubb.
Men Malan och Paul Stirling (58) började Middlesex svar med en monter på 139 som de nådde 255-2 i 39.4 overs.
Stirling fångades utanför Kieran Bull och paceman Dewi Penrhyn Jones, spelar bara sin andra match för Welsh county, hade Sam Robson lbw för 22.
Vid det laget var det dock alldeles för sent med Malan i fullt gråt i andra änden och han slog fyra sexor, en av dem slog den översta balkongen, och 18 fyror i hans 128-ball innings.
Neil Dexter avslutade spelet med stil genom att rensa repet från en fri-hit efter en no-ball av Penrhyn Jones, vars 6,4 overs kostade honom 73 körningar.
Middlesex seamer James Harris berättade för BBC Wales Sport:
"Vi spelade riktigt bra från början till slut efter att ha förlorat kastet, bowlade riktigt bra uppifrån och aldrig låta Glamorgan komma bort från oss, jag lyckades få några billiga wickets i slutet.
"För oss att avsluta det med lite stil och för Dawid (Malan) att spela så bra, det var en mycket tillfredsställande dag.
"För Dawid att börja så och bygga en innings, när du har 140 på bordet innan du förlorar en wicket du kommer att vinna mycket mer en dag matcher än du förlorar. Sedan för honom att fortsätta och få 150 var ganska speciell. "
Glamorgan century-maker Colin Ingram berättade för BBC Wales Sport:
"Det är alltid trevligt att komma till Herren, det är en bra dag ut och jag bara fortsatte arbeta hårt. När du spelar bra är det viktigt att inse det och försöka förlänga det så länge som möjligt. Jag hade turen att göra det igen idag och tyckte mycket om det."
"Det var trevligt att se två unga killar (spinners Andrew Salter och Kieran Bull) göra bra ifrån sig, så det är ovärderlig erfarenhet för dem och även några av de andra yngre killarna, det blir en bra upplevelse om en hård en."
Dawid Malan slog en lysande unbeaten 156 som Middlesex avslutade deras One-Day Cup grupp scen fixturer med en åtta-wicket seger över Glamorgan.