有一次张道陵在山中打坐，突然有一只狐狸跑了过来，朝着他摇尾乞怜。张道陵见此情形，微微一笑，心想：“这狐狸是不是想让我给它讲讲道理？”

想到这里，他看着狐狸，对它说：“你莫非也想修炼？”眼前的狐狸听了张道陵的话，居然向他点了点头。张道陵于是就开始为狐狸讲道德经里面的文章和道理，结果狐狸听得入神，最后竟然成了张道陵的徒弟，跟着他学习道理和修行。狐狸就这样成了张道陵的小助手，为了报答张道陵，这只狐狸会到山里给张道陵寻找延年益寿的草药。张道陵给这个狐狸徒弟取名叫洛灵。

张道陵在洛阳的北邙山隐居修行了几年之后，回想起道祖太上老君说的话。认为自己应该不要光想着自己修道长生，应该到人间去经历锻炼，在人间多多行善。为此，张道陵下山，回到城村中，或替人治病，或替人解难。

在汉章帝、汉和帝在位时期，张道陵先后征召其为太傅、冀县侯等职，均辞。之后张道陵开始云游名山大川、访道求仙。先是南游淮河，居桐柏太平山，后来与弟子王长和赵升一起渡江南下，来到了江西贵溪县的云锦山。

云锦山山清水秀，景色清幽，为古仙人栖息之所，张道陵于是就在山上结庐而居，并筑坛炼丹。

三年后的一天，九天神丹炼成，张道陵忽然听到响亮的仙乐声，一抬头，看见空中祥云飘着，霞光四射，天上飞过来青龙和白虎，空中发出声音：“结丹已成”。

张道陵打开丹炉，取出神丹，吃了下去。当时，张道陵已经六十多岁了，吃了神丹，容貌益少，“返老还童”，像三十多岁左右的人。正如葛洪在《神仙传》中所述：“陵初入龙虎山，合丹斗剂，虽未冲举，已成地仙。”可见他那时的道学功底已经相当深厚了。

因为有龙虎出现，故此山又称龙虎山。

接着张道陵在天上看到太上老君和太极左宫真人驾着仙鹤飞来，张道陵赶紧就跪下磕头。太上老君对他说：“你丹道已成，应该到人间游历一番，帮助百姓生灵，扶危济困，不可光想着隐居山中，只做自了汉。我和太极真人要去各个地方逛逛了，你丹成就下山历练去吧。”说完，就骑着仙鹤走了。

张道陵听闻蜀中民风纯厚，易可教化，于是移居到四川的鹤鸣山。