もと黄幡大明神＜おうばんだいみょうじん＞と称し、比治山南の谷（俗称—黄幡谷）に鎮座されていましたが、正保3年3月（1646）現在の社地に移して鎮守社となり、藩政時代には稲荷町三組、東柳町、下段原村、竹屋町南裏、平塚、竹屋村などの産土神として祀られ、当時の藩府より毎年正月門松添木、九月祭礼湯立の薪木を寄付されるなど崇められていました。
明治元年、神仏分離令の際、社名をあらためて比治山神社と称し、明治4年拝殿を再建、明治5年村社に列せられ、明治40年神饌弊帛料＜しんせんへいはくりょう＞供進社に指定されました。
昭和20年原爆により本・拝殿消失、昭和22年社殿を建立、昭和29年現在地ご鎮座300年記念として本・拝殿を本建築にて建立、昭和34年神社本庁より別表神社に列せられました。
平成19年現在地ご鎮座350年記念として新社務所・境内整備を行いました。