夏、商时，境内所属区域属荆州之域，为三苗之地，古越族在此繁衍、生息。
商周时，城陵矶即筑有“大彭城”。
春秋时期属楚国。
楚灭汉水流域的麋子国后，楚昭王谴王孙由于在梅子市（今梅溪乡梅子市村）筑东麋城，迁其遗民于此。
后又在岳阳楼一带筑城，驻军监视，称西麋城，是为岳阳建城之始。
（东）汉献帝建安十五年（210），孙权派鲁肃镇守巴丘邸阁，筑巴丘城，岳阳正式建城。
西晋太康元年（280），建巴陵县，属巴陵郡管辖，城区始称巴陵城。
隋开皇九年（589），废郡为州，巴陵郡改为巴州，十一年，改巴州为岳州，仍设巴陵县，巴陵城改称岳州城。
元至正二十四年（1364），吴王朱元璋攻占岳州，定为岳州路。
明洪武二年（1369），改岳州路为岳州府。
中华人民共和国成立后，保留岳阳县建置。
1953年10月，岳阳县城厢区改为城厢镇。
1958年10月，城厢镇与城陵矶镇合并成立岳州人民公社。
1960年1月2日，成立县辖岳阳市。
1962年10月20日，撤销岳阳市，恢复岳阳县城关镇。
1975年12月29日，城关镇升格恢复为岳阳市，属岳阳地区。
1981年10月12日，撤销岳阳县，其行政区域全部划归岳阳市。
1984年4月，以原岳阳市南区、北区、东区、城陵矶区、冷水铺区组成新的岳阳市南区；以原城郊区的五里、北港、洞庭、及原岳阳县的郭镇、梅溪两乡和北港园艺场、大湾芦苇场、蔬菜研究所组成新的岳阳市郊区。
1996年4月30日，南区与郊区合并为岳阳楼区，仍属岳阳市。