創建の年代は不詳であるが、生駒谷十七郷の氏神としてこの地に鎮座し、奈良県内では大神神社や石上神宮と同様に神奈備（生駒山）を御神体として祀られた日本有数の古社である。

文献での最も古い記述は、『総国風土記』の雄略天皇3年（458年）条に「伊古麻都比古神社」とあるものである。
往馬坐伊古麻都比古神社二座の内、一座は祈雨（あまごい）の幣も賜っていた。