Omkring 1.000 personer samlades för att iaktta en tyst minut och tända ljus framför Sened.
Över 2 000 fransmän bor i södra Wales och är registrerade på det franska konsulatet i London.
Marie Brousseau-Navarro, Frankrikes hederskonsul i Cardiff, sade att stödbudskapen hade varit rörande.
Hon sa: "Vi är förenade i chock och förenade i sorg... och förenade med alla människor som har marscherat över världen."
Saleem Kidwai, ordförande för Muslimska Rådet i Wales applåderades av folkmassan när han sa åt dem att "stå tillsammans skuldra vid skuldra".
"Mitt fördömande är absolut", sade han.
"Vi kommer till slut att vinna och sanningen vinner över lögn och ljus över mörkret."
Förste minister Carwyn Jones var bland de många som höll upp ett ljus för tystnaden, medan andra höll upp pennor. Tystnaden markerades i slutet av en applåd.
Tidigare sade han: " Bevakningen i Cardiff Bay i kväll är ett tillfälle för folket i Wales att visa sin respekt för dem som förlorade livet i den verkligt avskyvärda attacken i Paris.
"Det är också en chans att visa solidaritet med det franska folket och alla dem som tror på att upprätthålla våra demokratiska värderingar och friheter som hotas av sådana meningslösa terrordåd."
Den walesiske sekreteraren Stephen Crabb twittrade tidigare: " Stående med det franska samhället i Wales och till stöd för yttrandefriheten överallt. Klockan sex denna kväll. Skickad till Cardiff. "Charlie Hebdo"
I en enighetsuppvisning har Londons landmärken blivit belysta i den franska nationalflaggans färger.
Och världens ledare har samlats i Paris för en enorm endräktsmarsch med mer än en miljon människor, som underblåser lördagens marscher som såg 700 000 gå ut på gatorna.
På lördagen ägnade Swansea City-strejkaren Bafetimbi Gomis sin sidas mål i 1-1 dragningen med West Ham till offren för Paris terrorattacker.
Wales poliskårer och medieorganisationer höll en tyst minut för att stödja dem som attackerades i massakern Charlie Hebdo i Paris på onsdag.
En polis dödades på torsdag och franska styrkor stormade två olika gisslanplatser i och runt Paris, dödade tre gisslantagare, på fredag.
"Vi har verkligen blivit rörda av de hundratals budskapen om stöd och kondoleanser", sade Briusseau-Navarro.
"För det mesta uppskattar vi stödet och solidariteten."
En vaka har ägt rum i Cardiff Bay för franska medborgare och andra efter terrordåd i Paris som lämnade 17 människor döda på tre dagar.