Detaljhandlarna måste nu se till att produkterna är täckta och inte längre i allmänhetens ögon om inte en kund ber om dem.
Butikschefer och assistenter som bryter mot lagen kunde få böter på upp till 5 000 pund och sex månaders fängelse.
Flytten följer liknande restriktioner som infördes för större butiker och stormarknader 2012.
Andra försäljningsställen som pubar och klubbar måste också hålla cigaretter utom synhåll.
Cardiff återförsäljare Bobby Singh kallade förbudet "patetisk" och sade att han inte trodde att det skulle stoppa människor rökning.
Folkhälsa Wales stödde den nya lagen och sade att restriktionerna var en "mycket viktig utveckling för att förbättra hälsan i Wales".
En talesman tillade: "De kommer att spela en viktig roll när det gäller att minska rökningens dragningskraft."
Märkningsrestriktioner för cigaretter och tobaksvaror som säljs av små handlare i Wales har trätt i kraft.