崂山的开山始祖是 张廉夫。张廉夫，字静如，号乐山，是江西瑞州府高乐县（今江西省高安县）人。他生于汉文帝九年庚午七月初十（公元前一七一年），于汉景帝中元二年癸巳（公元前一四七年）参加科举，文学茂才一等，官至上大夫，时年22岁。后因得罪权要，弃职精研玄学，入终南山数载，并遨游天涯。张廉夫来崂山后，在今太清宫一带筑茅庵而居，开山垦田，自食其力，潜居修行。

张廉夫在崂山的活动不仅限于宗教修行，他还开创了崂山庙宇，并委命弟子刘方清、赵冲虚、冯若修等继续庙事。他的到来对崂山的发展产生了深远的影响，因此被尊称为“开山始祖”。