青城山历史悠久，相传轩辕黄帝时有宁封子，居青城山修道，曾向黄帝传授御风云的“龙跻之术”，黄帝筑坛拜其为“五岳丈人”，故后世又称青城山为丈人山，并建观（丈人观）纪念。在古时与湖北武当山、江西龙虎山、安徽齐云山、陕西景福山合称五大仙山。各自供奉真武荡魔大帝、五岳丈人宁封真君、昊天玉皇上帝、降魔护道天尊、广援普度天尊。

西汉末年，被称为“蜀中八仙”之一的阴长生入青城山修道。但真正奠定青城山为道教名山地位的是张道陵。

东汉顺帝初年，他入鹤鸣山（今成都市大邑县境内）修道，创立五斗米道，亦即天师道。鹤鸣山与青城山同属古岷山山脉，张道陵最早从鹤鸣山来到青城山结茅传道，并羽化山中。

东汉汉安二年（143年），在写毕二十四道书两年后，张道陵到达青城山，在此结茅传道，创立了中国的本土宗教——道教，使青城山成为了中国四大道教名山之首。

唐宋时期，青城武术在吸收外来武技的同时，与丹道、自然辟谷、易学、医学交融互汇形成独特完整体系，成为中国武林四大门派之一。

隋唐统治者对道教的扶持，使这一时期的青城山实乃“神仙都会之府”。隋唐时期道教兴盛，青城山宫观遍布，高道辈出。