中岳嵩山位于今河南省登封县境内，历史文献中常常以嵩高山名之。嵩山由太室山和少室山组成，位于东边的太室山逶迤绵延如龙眠，西部的少室山奇秀挺拔若凤舞。太室山与少室山各有三十六峰，素称“嵩山七十二峰”。道教典籍中，嵩山为三十六洞天中的第六洞天。
因地处中原，靠近早期都城洛阳的缘故，嵩山道迹甚多。而最早关于嵩山道教的故事，可上溯到周灵王太子晋被道人浮丘公接上嵩山的时候。今太室山西有子晋峰，便是这故事的遗存。早期著名的道士，如东汉的张陵、曹魏的左慈与西晋的鲍靓，都曾在嵩山深处修道养性。“晋人鲍靓，学道于嵩高，以惠帝永康二年（301）于刘君石室清斋，忽有《三皇文》刊石成字，乃依经以四百尺绢告玄而受，后亦授葛洪。”（《云笈七签》卷六）
但在嵩山修道最著名者是北魏天师道大师寇谦之。但这一故事要从天师道北传说起。
早在三国时期，张鲁在汉中创建政教合一的五斗米道，后来他归降曹操北上后，与官方建立起合作关系，改名换姓，自称“天师道”。改变出身后的天师道，从此成为统治阶级精神生活的重要组成部分，在兵荒马乱的三国时期获得了发展的良机。西晋时，北方一些士族大家大多信奉之，如琅邪王氏、兰陵萧氏、高平郗氏、清河崔氏、京兆韦氏等都是天师道的信徒。西晋短暂的统一后，随即永嘉年间发生的“八王之乱”导致了北方民族大规模入居中原。中原残破，人口大规模南迁，继之南北分裂局面形成。连年的战乱给道教发展带来了更多的机会：人们需要通过信奉超自然的力量宽解无常的命运，同时也借助宗教组织相互扶持，以应对兵荒马乱的局势。因此，在南北方的政权稳定后，道教也开始成规模地发展起来。
然而，南北朝时期社会矛盾极为突出，南北方都有人以道教为名起事。只是因南北方的社会结构不同，起事者的托言也就有所差别：北方的汉族不满少数民族的统治，所托言的“老君治世”，显然带有强烈的民族情绪；南方是外来士族和土著士族之间在利益分配上产生矛盾。但不管如何，从东汉末年到东晋末期，在短短两百年的时间里，以道教名义组织的起事如此之多，迫使统治者不得不思考，以找出应对的良策。
魏晋的统治者大多是以镇压黄巾军起家的，黄巾起义对东汉统治根基的危害以及带来的生灵涂炭，他们自然记忆犹新。因此，从魏晋起，当政者即对道教采取以限制甚或镇压为主，以改造和利用为辅的政策。限制与镇压当然是针对那些继续活动于底层民众，对社会稳定造成潜在威胁的民间道教组织；改造与利用，则面对那批加入道教组织的士族知识分子，已官方化了的道教组织。同时，皈依道教的上层人士也意识到与统治者为敌对道教发展所带来的危害，更不愿意看到道教为流民所利用。因此，他们决定按照自己对教义的理解重新改造道教。其中对道教进行系统改造，并产生深远影响的，在北朝就是北魏的寇谦之。而寇氏在道教上的主要成就是在嵩山完成的。
寇谦之很早即信奉天师道。据《魏书·释老志》称，寇谦之先从仙人成公兴，在华山学道，后再到嵩山修真七年。据说成公兴根据多年对寇谦之的观察，曾经评价他：“先生未便得仙，政可为帝王师耳！”显然成公兴早已看出，寇谦之并非那种自甘寂寞的隐遁之士，而是具有强烈政治欲望，欲作“帝王师”的人物。成公兴与寇谦之共事七年后去世。成公兴死后，虽然寇谦之立志隐居嵩岳，对道业精专不懈，不过正如成公兴所言，他已开始积极地改革天师道、为“帝王师”做准备工作了。
寇谦之为他出山所做的第一件事，就是制造了一个太上老君授予他天师之位的神话：北魏明元帝神瑞二年（415），太上老君降临嵩山，对寇谦之宣称，自从天师张陵去世以来，天师道中缺少有才能的人，修善之人无师可从。而寇谦之自从隐居嵩山以来，各路神仙一直在观察他的所行所言，认为他的行为符合自然之法，又有旷世之才堪以大任，故授以天师之位。老君同时教导寇谦之要专以礼度为首，加之以服食闭炼。老君还传授给寇谦之服气导引等法术。自此，寇谦之遂得辟谷之法，气盛体轻，颜色殊丽。而他的弟子十余人，亦尽传其法术。
就在这次与寇谦之会面的同时，太上老君传授《云中音诵新科之诫》二十卷给寇谦之，要他宣此《新科》，清整道教，除去当时较为混乱的三张伪法、租米钱税以及男女合气之术。这个故事在杜光庭的《神仙感遇传》中还有后续：“李筌，号达观子，居少室山，好神仙之道，常历名山，博采方术。至嵩山虎口岩，得《黄帝阴符》本，绢素书，朱漆轴，缄以玉匣。题云：‘大魏真君一年七月七日，上清道士寇谦之藏诸名山，用传同好。’其本糜烂，筌抄读数千遍，竟不晓其义。”（杜光庭《神仙感遇传》卷一）杜光庭讲这个故事意在表明，寇氏所言并非虚构。但事实上，寇谦之制造这个神话目的是为他出山改革天师道制造舆论。
除了大造舆论，寇谦之还投靠当时正得北魏太武帝宠信的大臣崔浩。崔浩虽得太武帝信任，但作为一个汉人，在鲜卑族贵族中并不得势，他也欲借寇谦之的宗教力量整顿朝纲。两人一拍即合。崔浩向魏太武帝推荐寇谦之后，太武帝派使者带着玉帛牧牢，祭奠嵩岳，并迎接寇谦之留在山中的弟子到洛阳以辅佐朝政：“（魏）世祖欣然，乃使谒者奉玉帛牧牢，祭嵩岳，迎致（寇谦之）其余弟子在山中者。于是崇奉天师，显扬新法，宣布天下，道业大行。”（《魏书·释老志》）
借助皇帝的支持，寇谦之开始放手改革北方天师道，宣扬新科，昭示天下。寇谦之清整改革道教的总纲，一是废除带有草根性质的五斗米道推行的米税与男女合气之术，创建符合礼制的大道清虚“新科”，仅以服食闭炼达修身养性之功。可见，这次道教内部的改革，实际上是将道教儒家化，声称通过辅佐太平真君实现天下太平，其目的当然是维持统治秩序。也就是说，寇谦之的道教改革走的是用戒律轨仪将原有草根性质的天师道进行组织整顿与思想清理的路线。特别是寇谦之对天师道改革的要点在于革除了早期道教与国家争租税的弊端，这就为天师道进入国家秩序、为统治者所接纳和容忍扫清了道路。自此，天师道的势力因此在北朝得到了迅速扩张，嵩山在道教中的地位更是如日中天。
隋唐时期，洛阳是为东都。凭借近水楼台，中岳嵩山也就进入一个道教兴旺发达的时期。大批道士居此修行，产生不少高道。如上清派宗师潘师正、刘道合、田游岩、吴筠、司马承祯、李含光、王希夷等都曾隐居于嵩山，使嵩山地位不断上升。茅山宗十二代宗师司马承祯，少好学，不愿为小吏，二十一岁时度为道士，师事潘师正。潘氏当时隐居嵩山，司马承祯就是在嵩山尽传其符箓及辟谷导引服饵之术，并获时名。武则天闻知后，召司马承祯到东都洛阳传道。所以，在嵩山隐居修道之士，大多是有些政治抱负的。
宋元时代起中岳嵩山的地位开始下降，但仍有道士许昌龄、贺兰栖真、乔志高等入居修行。明清以后嵩山的道教渐趋式微，不再有高道出现。这一方面与正一道的根据地在南方，而全真道又倾向于民间有很大关系。但国都地位的丧失也是原因之一。
据北魏郦道元《水经注》中记载，嵩山上有嵩岳庙，这是最早见于记载的嵩山道观。隋唐时期是嵩山道教最兴盛的时期，也是宫观大规模修建的时期：大业年间（605—617），隋炀帝因嵩山道士潘诞合炼金丹，为之作嵩阳观。当时，嵩阳观有华屋数百间，并有童男童女各一百二十人给潘诞充当役使，成为当时嵩山最为壮观的道观。唐高宗时，又先后建有崇唐观、太一观、奉天宫等宫观，道观开始形成规模。其中，崇唐观是唐高宗李治为潘师正所建。当时潘师正在嵩山逍遥谷修炼。高宗幸东都时召见他，相谈甚欢。高宗询问潘师正有什么要求？潘师正答道：“茂松清泉，臣所需也，既不乏矣。”李治闻后更加敬重潘氏，诏令在嵩山为他修建崇唐观以居之。后来，唐高宗在嵩山上营造奉天宫时，特意令在潘师正所居的逍遥谷口为其做一门，题为“仙游”。太一观是因为高宗闻刘道合有道术，便诏令在刘氏隐居之地修建太一观，供其修真。宋元间，嵩山上再增建紫虚观、天封观、承天宫、长春庵等宫观。明清以后，除了中岳庙受到统治者的重视，多次重修外，其他宫观大都倾圮，湮没无存。
位于太室山南麓黄盖峰下的中岳庙，原称“太室祠”，创建于秦代，与华山的西岳庙一样，都是更早的山川崇拜的遗迹，不过后来被纳入道教的神祇体系中。北魏太延元年（435）改太室祠为嵩岳庙，成为正式的道教宫观。现在的中岳庙建筑是清乾隆年间仿北京皇宫布局重修。
中岳庙坐北朝南，地势由低到高。整个建筑沿中轴线从南向北依次为中华门、遥参亭、中天阁、配天作镇坊、崇圣门、化三门、峻极门、嵩高峻极坊、中岳大殿、寝宫、御书楼，共有十一进、四百余间明清建筑。整座建筑的结构与衡山南岳庙相同，但比南岳庙规格稍高，多出二进院落。另外，在中岳庙的东路和西路，还分别建有太尉宫、火神宫、祖师宫、小楼宫、神州宫和龙王殿等单独构成的小院落。
峻极门是中岳庙中心院落的大门，大门两侧塑有手执金瓜斧钺的将军神像，民间因此称为“将军门”。进了峻极门向北，便是由清康熙皇帝题款的嵩高峻极坊。坊身四柱三楼，黄色琉璃瓦覆顶，算得上是清代建筑的精品。
北过拜台便为中岳庙的正殿中岳大殿。中岳大殿，又名“峻极殿”，仿自北京皇宫内的太和殿。大殿面阔九间，进深五间，重檐庑殿顶，几乎是清代除了紫禁城太和殿之外规格最高的建筑了。不仅如此，其殿上覆黄色琉璃瓦，椽飞斗拱，梁枋天花，用的是清代最尊贵的和玺彩画。殿内正中神龛内是高五米的中岳大帝塑像，两旁分列镇殿将军方弼、方相的塑像。
再往前依次是供奉天中王及天灵妃的寝殿和供奉玉皇大帝的黄箓殿。据说当年明万历皇帝曾在此藏有道经，故也称为“御书楼”。再向北，则是可登高览胜的黄盖亭。黄盖亭得名于黄盖峰。相传汉武帝游嵩山，登临此峰时以黄伞遮掩，故名为“黄盖峰”。登临黄盖亭，中岳庙全景尽收眼底，更见其幽美、清静。
中岳庙内的名胜、文物众多。崇圣门后的东亭为古神库亭，神库四周站立着四个威武雄壮、高达2.5米的巨大铁人。据说，这四个铁人是宋代抗击金兵的四位道人羽化而成。另外，在化三门后的四角亭内，存有北魏所刻的《中岳嵩高灵庙碑》，字体介于隶楷之间，古拙雄浑，是研究魏体书法的珍贵文本。在峻极门北的走廊内藏有著名的《五岳真形图碑》。此《五岳真形图碑》颇有来历。传说汉代道人鲁女生采药于嵩高山，一日见一妇人坐于山涧中。鲁女生知道此妇人绝非凡人，故乞求妇人赐他长生之术。此妇人说，她本是三天太上的侍官，因鲁女生有得仙之机缘方可以遇见她。于是妇人授予鲁女生这部据说可以威制五岳、役使众神的宝文秘要——《五岳真形图》，并告诫他要施用节度。鲁女生获此图后而道成。后鲁氏告别亲故遁入华山，并以此图传给蓟子训。
位于太室山万岁峰下的崇福宫，原为汉武帝元封元年（公元前110年）登嵩山后兴建的，当时称为“万岁观”。唐高宗时更名为“太乙观”，宋真宗时更名为“崇福宫”，并对此观进行大规模的重建，修建了元神殿和本命殿。大约在宋仁宗天圣年间（1023—1031），崇福宫内有房屋一千余间，颇为兴盛，成为宋皇室祈福的重要场所。北宋末年，崇福宫毁于兵火。后虽多次修复，但终因明末以后道教在嵩山地区全面衰落，崇福宫兴盛不再，现存仅有清代建筑数十间、清代碑刻四通而已。
太室山南麓金壶峰下的老君洞，是唐代著名道士潘师正所开，正位于逍遥谷北山脊上。唐以后，历代道士不断修凿，最终形成一处颇具规模的道观。该道院为一个三进的院落：前有山门，房三架，为悬山式建筑。中部的无极洞是当年潘师正隐居的地方，仅高2米，宽3米，深4米，相当局促。内供奉着潘师正、太极、无极老母的塑像。太极洞上面建有一处砖木结构的殿房，里内供着太极、皇极塑像，两侧的山墙上绘有彩色的壁画。无极洞外左右两侧分别是8米高的金钟楼和玉鼓楼，为清代创建。老君洞后还有万福洞、火光洞、千佛洞等洞窟。最后一进是为无极老母殿。殿面阔三间，黄色的琉璃瓦覆顶，内供无极老母像。这里最值得注意的，是殿内的两根盘龙木柱，工艺十分精湛。整个道院布局紧凑，空间设计别具一格，加之群山环峙，怪石林立，秀丽典雅。
