三国时，东吴大将鲁肃奉命镇守巴丘，操练水军，在洞庭湖接长江的险要地段建筑了巴丘古城。东汉建安二十年（公元 215 年），鲁肃因城为楼，修筑了用以训练和检阅水军的阅军楼。阅军楼楼高数丈，临岸而立，登临可观望洞庭全景，湖中一帆一波皆可尽收眼底，气势非同凡响，这座阅军楼就是岳阳楼的前身。
阅军楼在两晋、南北朝时被称为巴陵城楼，到唐朝方始称岳阳楼。唐开元四年（公元 716 年），中书令张说谪守岳州，扩建阅军楼，取名为南楼，后改为岳阳楼。
宋庆历四年（公元 1044 年），滕子京被贬至岳州，当时的岳阳楼已坍塌，滕子京于庆历五年在广大民众的支持下重建了岳阳楼。楼台落成，滕子京写下求记书，又委人画了一幅《洞庭晚秋图》，一并寄给当时的大文学家、政治家、军事家范仲淹，请他为楼作记。当时范仲淹正被贬到河南邓州戍边，见书信后，欣然奋笔疾书，写下了名传千古的《岳阳楼记》。《岳阳楼记》全文 368 个字，字字珠玑，文章情景交融，内容博大，气势磅礴，语气铿锵，文中 “ 先天下之忧而忧，后天下之乐而乐 ” 等句，哲理精深，体现了中华民族的伟大精神，为人们广为传诵。从此《岳阳楼记》流传千古，岳阳楼也名满四方，绝冠天下。
岳阳楼在 1700 余年的历史中屡修屡毁又屡毁屡修。最后一次重修是清朝光绪六年（公元 1880 年）岳州知府张德容主持修建的，保留至今。
新中国成立以后，人民政府多次拨款对岳阳楼进行了维修，还修建了怀甫亭和碑廊，重建了三醉亭和仙梅亭等古迹。 1983 年，国务院拨专款对岳阳楼进行了为期一年半的以 “ 整旧如旧 ” 为宗旨的落架大修。 1984 年 5 月 1 日，岳阳楼大修竣工并对外开放，修复后的岳阳楼保存了清朝的原址、规模、式样和大部分的建筑构件。
岳阳楼与湖北武汉的黄鹤楼、江西南昌的滕王阁历史上并称为江南三大名楼。岳阳楼是江南三大名楼中唯一的一座保持原貌的古建筑， 是座集历史、文化、艺术、旅游、建筑诸价值于一身的古建筑精品。它于 1988 年 1 月被国务院确定为全国重点文物保护单位，同年 8 月被列为国家重点风景名胜保护区， 2001 年元月核准为首批国家 AAAA 级旅游景区， 2005年被评为湖南省十大文化遗产。它 是长江黄金旅游线上湖南境内的唯一景点，是岳阳市对外开放的重要窗口和岳阳旅游业的龙头。
2007年9月，岳阳楼景区扩建竣工，新景区建成开放，景区面积由73亩扩至670亩，分为文物保护封闭式管理区和公益性开放式休闲区，新建瞻岳门、仿古城墙、角楼、洞庭风韵诗廊、汴河街、南大门、双公祠、五朝楼观、碑廊、吕仙祠等景点。新旧景区完美地结合在一起，是 一个融人文景观与自然景观高度和谐统一的精品旅游景区。
