Glamorgan byggde sin inning på en 122-run andra-wicket monter mellan Will Bragg (75) och Jacques Rudolph (53).
Efter Graham Waggs 49 skålades värdarna i finalen för 289.
För att jaga 290 var besökarna så småningom begränsade till 237 ut, trots Michael Klingers 52 och några sena strokespel från Benny Howell (77).
Bragg är aggressiv 75 off 68 bollar fick resultattavlan rör sig bra, medan Rudolph försiktiga 53 var hans första halv-talet av säsongen.
Matt Taylor, Liam Norwell och Howell skålade alla intelligent för att begränsa Glamorgans acceleration i de senare stadierna.
Men målet på 290 såg långt ut när Wagg hävdade två tidiga wickets och deltids spinnare Colin Ingram tog två billiga i mitten av innings, inklusive den vitala en av Klinger.
Howell slår tog spelet in i stängning overs för att göra det en fin personlig prestation, innan du blir Timm van der Gugtens tredje wicket.
Glamorgan möter nu Sussex i Cardiff på onsdag, medan Gloucestershire värd Middlesex på samma dag, fortfarande letar efter sin första seger.
En-Day Cup innehavare förlorade sin öppningsmatch med en wicket till Somerset på söndagen när hemmasidan sista par Jamie Overton och Tim Groenewald sätta på en osannolik 65 att vinna med tre bollar att spara.
Glamorgan kapten Jacques Rudolph berättade för BBC Wales Sport:
"Vi var ganska kliniska i vårt sätt att sköta vår verksamhet. William Bragg slogs enastående men vi var 15-20 körningar långt ifrån där vi kunde ha varit.
"Jag ville bara tillbringa lite tid i mitten. Det är viktigt när du inte uppträder så bra som du skulle vilja och jag hade tur som slåss med Braggy som är i mycket god kontakt.
"Våra bowlare var mycket bra. Colin Ingram skålade exceptionellt, liksom Timm van der Gugten.
Just nu har vi bra fart i vit-boll cricket. Om det kan fortsätta resten av veckan blir jag en glad kapten."
Gloucestershire kapten Michael Klinger berättade för BBC Radio Bristol:
"Förra året vann vi sju av åtta. Det finns ingen anledning till varför vi inte kan vinna fem av sex nu men vi måste göra de små sakerna lite bättre, särskilt på fältet.
"Vi fick out-worked eftersom de out-fielded oss och skålade riktigt bra till deras fält.
"Det är svårt att inte låta Jack Taylor bowla. Antingen behöver vi killarna vi måste bowla bättre eller så måste vi byta linje.
"Det är en besvikelse. Vi behöver en kollektiv insats och hittills har vi inte haft det."
Glamorgan började sin One-Day Cup kampanj med en övertygande 52-run seger som innehavare Gloucestershire förlorade sin andra match i så många dagar.