兴隆山国家级自然保护区辖区内历史上很早就有人类活动。近年来连塔乡的马家山(1953)和龛谷峡(1986)先后出土了相当丰富的马家窑、半山、马厂三种类型的陶罐文物，伴有石刀、石斧、石印等，足以证明在距今五千年前新石器时期及其以后，这块地方就有人类居住活动，繁衍生息，他们是黄河中上游马家窑、半山、马厂古文化的重要组成部分。
东晋十六国(317─420)时期在此活动的人数日益增多。唐代以后，兴隆山就成为兵家争战要地，慕容公主曾葬于薄寒山(今马啣山)；近年在朱家湾又发现金代石棺墓葬一处(墓碑志及石棺均存榆中县文化馆)；元代燕国公蒲察俊后裔葬于兴隆山，称“蒲家坟”。成吉思汗曾以兴隆山为基地，几战西夏，且取得重大胜利；明代连年战乱，兴隆山自东汉以来所有建筑都被焚毁。
清乾隆年间，山西平阳府曲沃县(今绛县)刘一明(号悟元子)出家学道，云游四方至兴隆山，立志重修。以道教的虔诚之心，到兰州、临洮等地募化。在金县(今榆中)把总林启明的支持下，经过数年筹集，于乾隆四十四年(1779)开始动工修建。经历十余载苦心经营，次第建成错落有致的殿、阁、楼、亭62座，使风光旖旎的兴隆山又变成一处香火旺盛的“洞天福地”。
刘一明来兴隆山后，就为其在栖云山修建了住所──自在窝。庙宇修建基本告成，他便隐居在自在窝里，潜心研读易学、医学和道家经典三十余载，先后撰著《三易注略》25卷，《周易阐真》5卷，《孔易阐真》2卷，《道德经要义》1卷，《道德经会义》3卷，《参同直指》8卷，《悟真直指》3卷，《栖云笔记》4卷，《眼科启蒙》4卷，《经验奇方》2卷，《经验杂方》2卷，《指南针》13卷，以及《会心集》、《会心外集》、《修真辩难》、《四百字解》等。道光元年正月羽化(道家用语，意即逝世)。刘一明的著作在清道光以后的道门中广为流传，其道学著作为结集为《道书十二种》，1913年曾由上海江东书局出版，是研究道教有价值的参考资料。
成吉思汗与兴隆山来往平凡，大多数情况是为了战争的需要。古代兴隆山，东为榆中川，水草相宜；西为兰州屋脊马啣山，牧草丰盛。山巅两处火山口积有矿泉水；南北皆为起伏的山丘，绿草茵茵，乔灌木参差相同，构成一个浩大的牧场。因此，起兵戈烽起，戎马征战的年代里，自然成为兵家争夺的要地。
据考证，1222年成吉思汗大战西夏兵于榆中马莲滩。1226年成吉思汗在攻克了甘州、肃州之后，在阿布尔和草原因追捕野马从马背上摔下致伤，到兴隆山修养治疗，渡过深秋和冬季，伤愈后于1227年春率兵驰聘疆场和西夏王赵元昊搏杀，西夏兵弃瓦川会城(今新营)败逃。入夏时复因健康原因二次来到兴隆山，此时成吉思汗已不能跨马征战，后病情不断加重，车送至六盘山下清水行宫，当年8月病死，亨年66岁。
成吉思汗英勇善战，为蒙族人民取得政权，立下汗马功劳，被视为民族英雄，一代天骄。死后将灵柩秘密移住漠北，隐葬于不儿罕合勒敦渚山(今肯特山)，后裔为纪念这民族英雄，将其遗物收藏，作为遗骨祀奉于鄂尔多斯伊克昭盟的布尔陶勒盖，派专人守护。其间虽经多次战乱但历久不移。直到1937年抗日战争爆发，为了粉碎日本帝国主义建立东亚共荣圈和灭亡中国的梦想，避免胁英雄威望挑拨民族关系，1939年将成吉思汗灵榇迁到兴隆山，安放在大佛殿，历经10年。1949年7月又迁往青海塔乐寺。1954年应蒙古人民的要求得将成吉思汗灵榇送回原址。
本世纪中叶以后，兴隆山曾留下许多著名历史人物的遗迹，其中：1941年大书法家于佑任亲手书写“太白泉”碑铭，成为兴隆山人文库中的珍品。1943年国画大师张大千在兴隆山临摩兴隆山主要风景图，后交西班牙画家毕加索珍藏，极为珍贵。同年八月蒋介石携夫人宋美龄曾来兴隆山。1951年甘肃最早的共产党人张一悟病故后葬于兴隆山。1958年，朱德与夫人康克清来兴隆山，现建有“朱德纪念亭”。1983年胡耀邦曾来兴隆山，题写“陇右名山”四字，现建有纪念牌门。这些历史人物都是匆忙过境，留给兴隆山可资纪念的文物不多。
