天長年間（824〜834年）、慈覚大師が巡行した際、この地で聖観音像を刻んだ。安置する場所を探し山道を行くと、多数の小男鹿が集まってきて慈覚大師を道案内したという。これが小鹿坂峠の由来である。
観音堂は、この小鹿坂峠の近くに小鹿坂観音堂として建立された。この子鹿坂観音堂が秩父34ヶ所の札所となり、やがて音楽寺が子鹿坂観音堂の別当寺となった。
そして、江戸時代中期に観音堂を現在の地に新たに建立し、本尊 聖観世音菩薩を安置した。
音楽寺という近代的な寺の名は、松の梢を吹く松風の音から生まれたと云われている。

あり