相传西周函谷关关令尹喜曾在终南山北麓结草为楼，观星望气，故名楼观。在老子过函谷关时，尹喜近之于此，请问道教，老子遂授以《道德经》五千言。后与老子共赴西域，化胡成佛。周穆王时在此修葺楼观屋宇，为尹喜建庙立祠。其后秦汉魏晋历代帝王皆修缮楼观，招纳四方逸士，因而形成了楼观道派。其时，楼观道乃魏晋之际的道士梁堪所初创，后经王嘉、孙彻、马俭等数代弟子传承，终于形成了一个神仙道教团体。北魏崇拜道教，楼观道派也受到统治阶级的重视。到孝文帝迁洛阳时，已经在关陇一带广为传播，成为继寇谦之新天师道后北方地区的又一个著名道教流派。
北魏中期，楼观道派中的一些著名道人，对楼观道的教义、教团组织等进行了改革和发展，与封建统治者频频交往，教门日盛。北魏分裂后，统治关中一带的西魏、北周政权都极力扶持楼观道派。尤其是北周武帝，不仅尊礼道士，赏赐钱物，修建宫观，而且承袭北魏传统，亲临道观，接受楼观道士传授的《灵宝玉符真文》《洞真智慧大戒》等道教经戒符箓。使楼观道也从民间道教转化为官方道教。