据道书记载，春秋时，道家庚桑楚曾在洞内隐居，并著有《庚桑子》九篇，东汉的张道陵和唐代的张果老也曾在洞内修过道。唐代开元时，唐明皇在张公洞旁敕建洞灵观，并亲自题写了观额。宋代改建为天申万寿宫，清代改为朝阳道院。