De var framför Elgin City efter 19 minuter när Jonny Court sköt från höger sida av området från ett Lloyd Kinnaird pass.
Mark Nicolson var av målet med ett skott och Kyle MacLeod på väg mot Darren Dolan som Elgin försökte tvinga en väg tillbaka in i spelet efter intervallet.
Men Alistair Roys skott säkrade segern med tre minuter kvar.
East Stirlingshire hävdade en viktig seger i sitt försök att flytta sig från botten av Scottish League Two.