遠く永治元年(1141)、時の飛騨守時輔朝臣が、ある日片野山中で狩りに出て、奇瑞のことがあったので、その城をかまえていた石光山(今の高山市片野地内)に近江の日吉大神を勧請して、城の鎮護としたのがはじまりである。その後、四代目景家の時、養和元年(1181)正月、源義仲の部将手塚光盛に攻められ、利あらずして敗亡、社殿も兵火にかかって消失したが、幸いにして御霊体は災禍をまぬがれ無事奉安することができ、里人によって社殿は再興され、片野村の産土神として奉祀されていた。(今、この地を「元山王」とよんでいる。)幾多の年月を経て天正13年(1585)、金森長近父子が豊臣秀吉の命によって飛騨へ入国、諸将を平らげて国内を統一し、国守に封ぜられて、同14年、城を天神山(今の城山)に築いた。置いて片野、高山南半分の産土神に定められた。して金森氏歴代100余年間、城主の崇敬あつく度々の社殿の改築修造が行われてきた。今に残る社殿の棟木、神輿等に見る国守の紋所梅鉢はじめ金森長近公愛用の陣羽織及び刀等にもそれを伺うことができる。元禄5年(1692)、城主移封となり、徳川幕府の直轄となってからも、歴代の代官・郡代の尊崇あつく、度々社殿の修築、参詣があった。明治以後は郷社を経て昭和に県社となり、一般に『山王さま』と親しまれ、氏子数2700戸はじめ高山市民の尊崇を集めている。