杉山神社の史籍に於ける初見は延喜式神明帳に（今より1,070余年前）武蔵国都筑郡杉山神社とあり、当社の由緒は明らかでないが、口碑に伝えるに其の創立は上古根古屋の庄荷場の郷と唱う水郷一帯の時代、景行天皇の御代四十年東方十二国御平定の折、日本武尊、此の地方を御通過され、尊崩御の後、村民其の御徳を慕い奉いて祠を造り奉斎したと云う。
　明治六年村社に列格、同四十一年村内の無格社荒神社、熊野社、皇大神宮を合併し、大正九年神饌幣帛料供進社に指定された。
　戦後、宗教法人として今日に至る。