807年征夷大将軍坂ノ上田村麻呂によって花巻稗貫地方の蝦夷討伐の際、戦勝とその鎮護を祈願し羽山祇命（ハヤマツミノミコト）を勧誘し堂宇を建て羽山大権現と尊号したものと伝えられています。
　口碑の伝うる所によれば維新前に於いては村内の産土神たりしは勿論の事、南部藩主湯治の際お立ち寄り御参拝され、更には代々花巻城主の祈願所であり、士籍にある者名家を相続した時は必ず先づ此処に詣で、武運の長久を祈願したと云う。また羽黒山修験の流れをくみ荒沢薬師如来を併祀衆生の病患を救い、無明の疾病を癒すといわれ遠近の人々に篤く崇敬せられた。
　羽山神社の本宮は御神山羽山頂上にあり里宮はかつて湯本第18地割（金矢と松山寺の間）にあったが、明治41年当地に移し現在に至っている。
　尚、旧正月16・17日、別当専蔵院の修行のもとに奇祭蘇民祭が行われていたが、参加者が年々滅る傾向の為昭和36年から中止され蘇民袋争奪の勇壮な姿は今は見られない。