『大神山（おおがみやま）』とは神社が鎮座する「大山（だいせん）」の古い呼び名です。大山が文献に登場する最初の書物は、八世紀（奈良時代）前半に編纂された「出雲国風土記」で、国引きの条の中に「國に固堅め立てし加志は、伯耆国なる大神岳是なり」と国を引き寄せる綱（鳥取県の弓ヶ浜半島）をつなぎ止める杭として、伯耆国の「大神岳（火神岳）」として出てきます。
ちなみに今のように大山と呼ばれるようになったのは平安期以降と思われます。中国地方の最高峰であり、独立した優美な山容を持つ大山は、神の宿る山として古くから人々の信仰を集めてきました。ふもとに暮す人々はもとより、海を渡ってきた人々からもその神々しさは格別なものが在ったに違いありません。
主祭神の大己貴命は大山を根拠地として国土経営の計画をお立てになりました。「神祗志料」左比売山神社の条には「云々、昔大己貴命、少名彦名命、須勢理姫命、伯耆国大神山に御坐、出雲國由来郷に来坐して云々」と書かれており、大山の山頂に立って雲の上から草昧の国土を見下ろし国見をされて国造りを相談なされたと伝えています。
神仏習合の時代は長く、江戸時代まで続きましたが、明治時代になると政府により神仏分離令が出され、明治4年に尾高の冬宮は国幣小社に列せられ「大神山神社本社」となりました。ついで明治8年に大山の夏宮（大智明権現社）より地蔵菩薩を除き「大神山神社奥宮」として純然たる神社となりました。このとき地蔵菩薩は大日堂に移され、現在の大山寺になっています。