Mediauppspelning stöds inte på den här enheten
Scottish full-back Stuart Hogg sprang i öppningen försök men Leigh Halfpenny tre straff och en slick Rhys Webb score satte Wales 16-10 upp med halvtid.
Ett otillåtet Liam Williams-försök och ett missat Halfpenny-straff gav Skottland hopp om att de skulle kunna återhämta sig.
Men Jon Welshs sena försök räckte inte efter att Jonathan Davies hade kört över.
Wales är nu tillbaka på rätt spår för att montera en mästerskaps utmaning, men trots skottarnas förbättring, de verkar fortfarande lite kort av Six Nations tungviktare.
Warren Gatlands sida anlände till Edinburgh från denna förlust till en lappverk England sida.
Skottland började också turneringen med ett nederlag, till Frankrike i Paris, men det fanns tillräckligt i deras display för att ge sina fans hopp om att de kunde slå Wales för första gången i Gatland eran.
Scots hade talat om att hålla straffräkningen nere, men de medgav tre under de första fem minuterna, varav en sparkades av Halfpenny för att ge Wales ledningen.
När walesiska folket började utöva påtryckningar, drabbades de av ett rymningsförsök.
Alex Cuthbert förlorade innehavet och Richie Gray skickade bollen bred till Hogg, som visade stor fart för att tävla förbi cover försvar och poäng under stolparna. Laidlaws konvertering och en efterföljande straff satte skottarna 10-3 upp innan Halfpenny svarade med en egen trepoängare.
Scotland förlorade halva Finn Russell till sin-bin på halvtimmen när han bedömdes ha tagit ut motsatt nummer Dan Biggar med en farlig tackling i luften. Halfpenny tog poängen till 10-9 med den resulterande straff.
Wales tog inte lång tid på sig att göra sina enmansövertag räknade, ett svepande drag inifrån deras egen halva sträcker skottarnas försvar till brytpunkt, och scrum-halv Webb dykning över i hörnet.
Halfpenny lade till statister för att sätta Wales 16-10 upp på rasten.
Två Laidlaw straff på vardera sidan av en framgångsrik Halfpenny kick höll skottarna inom tre tidigt i andra halvan.
Wales hade en Liam Williams försök uteslutits för en off-the-ball överträdelse av Alun Wyn Jones, men domaren kunde inte rädda Skottland 15 minuter från slutet när Davies gjorde Wales andra försök.
Den brittiska och irländska Lejonet kom på en Biggar pass i takt och, efter att driva igenom några mjuka mittfält tackling, centrum kustade under stolparna för att lämna Halfpenny med de enklaste omvandlingar för att ge Wales en 10-punkts ledning.
Det såg ut att ha avslutat matchen som en tävling, men skottarna vägrade att spänna, med Mark Bennett och Hogg gör searring linje brott.
De tvingade fram ett försök under de sista sekunderna när walesiska plöjde över från nära håll, men det var för sent och återigen var hemmasidan tvungen att vara nöjd med "gallant losers"-taggen.
Skottland: Hogg; Lamont, Bennett, Dunbar, Visser; Russell, Laidlaw; Dickinson, Ford, Cross, R Gray, J Gray, Harley, Cowan, Beattie.
Ersättningar: Scott för Dunbar (58), Hidalgo-Clyne för Laidlaw (71), Reid för Dickinson (61), F Brown för Ford (71), Welsh för Cross (50), Hamilton för R Gray (56), Strokosch för Beattie (58).
Ej använt: Tunkar.
Sin Bin: Russell (32).
Wales: Halfpenny; Cuthbert, J Davies, Roberts, L Williams; Biggar, Webb; Jenkins, Hibbard, Jarvis, Ball, A Jones, Lydiate, Warburton, Faletau.
Ersättningar: M. Phillips for Webb (74), James for Jenkins (71), Baldwin for Hibbard (60), Andrews for Jarvis (60), Charteris for Ball (60), Tipuric for Lydiate (61).
Ej använt: Priestland, S Williams.
Sin Bin: J Davies (37).
Att: 67.144
Ref: Glen Jackson (Nya Zeeland).
Wales återhämtade sig från sin öppning Six Nations nederlag av England för att säkra en hårdnackad seger på Murrayfield som lämnar Skottland utan en poäng.