文禄元年〔1592 年〕安土桃山時代末期の後陽成天皇 の時代、伊勢の修験者が諸国を巡り、当地を訪れ、毛野国の中央にして且つ霊地であるとして、当神社が創建された。 
伊勢大神宮 を奉祀し年々伊勢大神宮よりお礼を迎え信徒に配布し、旧小屋町の鎮守として大いに崇敬された。社殿は広壮てあったが、火災のため古記録を焼失し、その詳細は知る由もない。江戸時代、寛永十年〔1633 年〕 彦根藩領 になる頃には単に御林と呼ばれ荒廃した。然しながら、敬神の念なお強く、延宝年間〔1673 ~1680年〕に新社殿が建てられた。その社が三百余年後の平成二年〔1990 年〕まで崇教されてきた社殿である。 
明治維新 により官有となった土地を、明治十一年〔1878 年〕に山頂の一部を払い受け、その後　度重なる請願により明治四十年〔1907 年〕に山麓まで、金山町有地として編入の許可を得たため、社殿の修繕及び神楽殿を新築した。桜を植え、荘厳さを兼ね備えた社として地域民の崇拝するところとなった。祭日である九月十五日・及び毎月十五日には参拝者で賑わった。 
現在の祭日は四月十五日・十月十五日のニ回行われている。大正初期には、数種の老樹が鬱蒼とし、高い山ではないが由緒ある風情があり、眺望は開け、風雅な趣のある景勝地として四季折々参詣する者が絶えなかった。大正・昭和と年移り社殿が老朽化してきたのを期に平成二年〔1990年〕の御大典 を記念して町民の御寄進を請願し現在の社殿を新築した。 
平成二十二年十月吉日 
相生町伊勢山神社奉賛会 
町内会役員外有志一同　謹書