Officeren bar på en pistol på järnvägsstationen i Inverness på tisdagen när han gick genom huvudtåget.
Polisen i Skottland sa att officeren hade brutit mot den nya våldspolitiken.
En talesman sade att han hade blivit påmind om de strikta kriterierna i frågan.
Det var en syn som var vanligare 2013 när en politik infördes som gjorde det möjligt för skjutvapenbefäl att bära handvapen med sig hela tiden när de var i tjänst.
Men efter oro från politiker förklarade poliskommissarien för Polis Skottland, Sir Stephen House, i oktober förra året att specialiserade beväpnade poliser i Skottland endast skulle sättas in på skjutvapenincidenter eller där det fanns ett hot mot livet.
En polis i Inverness har fotograferats med ett skjutvapen, trots försäkringar om att sidovapen endast skulle sättas in under särskilda omständigheter.