長谷寺の創建は奈良時代、8世紀前半と推定されるが、創建の詳しい時期や事情は不明である。寺伝によれば、天武朝の朱鳥元年（686年）、僧の道明が初瀬山の西の丘（現在、本長谷寺と呼ばれている場所）に三重塔を建立、続いて神亀4年（727年）、僧の徳道が東の丘（現在の本堂の地）に本尊十一面観音像を祀って開山したというが、これらのことについては正史に見えず、伝承の域を出ない。承和14年（847年）12月21日に定額寺に列せられ、天安2年（858年）5月10日に三綱が置かれたことが記され、長谷寺もこの時期に官寺と認定されて別当が設置されたとみられている。なお、貞観12年（870年）に諸寺の別当・三綱は太政官の解由（審査）の対象になることが定められ、長谷寺も他の官寺とともに朝廷（太政官）の統制下に置かれた。それを裏付けるように10世紀以後の長谷寺再建に際しては諸国に対しては国宛を、諸寺に対しては落慶供養参加を命じられるなど、国家的事業として位置づけられている。
長谷寺は平安時代中期以降、観音霊場として貴族の信仰を集めた。万寿元年（1024年）には藤原道長が参詣しており、中世以降は武士や庶民にも信仰を広めた。
長谷寺は東大寺（華厳宗）の末寺[1] であったが、平安時代中期には興福寺（法相宗）の末寺となり、16世紀以降は覚鑁（興教大師）によって興され僧正頼瑜により成道した新義真言宗の流れをくむ寺院となっている。天正16年（1588年）、豊臣秀吉により根来山（根来寺）を追われた新義真言宗門徒が入山し、同派の僧正専誉により現在の真言宗豊山派が大成された。近年は、子弟教育・僧侶（教師）の育成に力を入れており、学問寺としての性格を強めている。
十一面観音を本尊とし「長谷寺」を名乗る寺院は鎌倉の長谷寺をはじめ日本各地に多く240寺程存在する。他と区別するため「大和国長谷寺」「総本山長谷寺」等と呼称することもある。