伝承では推古天皇元年（593年）、鞍作止利が彫り上げた観音菩薩像を本尊として杖棄橋の東側にある石倉に聖徳太子が創建したとする。
承徳元年（1097年）に有馬を襲った洪水によって極楽寺は壊滅する。その後、建久2年（1191年）に有馬温泉を復興した仁西上人に従ってきた河上維清によって現在地に移転して再興された。そして、法然上人を招いて名称を密曾寺山極楽寺と改めて念仏の道場として栄えた。
後柏原天皇の時代、名称を寂静山伝法院極楽寺と改めている。