秦、汉时为南海郡地。
三国吴黄武元年（222），属交州南海郡。
两晋时隶属不变。
南朝宋永初元年（420）设新会郡，属新会郡；南齐、梁、陈三朝沿袭不变。
隋开皇十年（590）撤新会郡为县，改属封州；十一年封州改为允州，属允州；十三年允州改为冈州，属冈州，州治设在今新会区会城镇。
唐贞元末年（805）撤冈州，改属广州。
五代南汉国属广州。
南宋改州为府，属广州府；祥兴元年（1278），广州府改为翔龙府，属翔龙府。
元代改府为路，属广州路。
元至正二十三年（1363），在蓬江河北岸蓬莱山附近形成墟集，称江门墟。
明代又改路为府，属广州府；明成化十四年（1478），今恩平、开平及鹤山部分地域属肇庆府。
清沿明制，分属广州府、肇庆府。
清光绪二十八年（1902），江门被辟为通商口岸，1904年成立江门海关。
1913年至1949年，先后隶属广阳绥靖处、粤海道、中区委员公署、西江善后委员公署、督办委员公署、第四区绥靖公署、第一区行政督察专员公署、第十区行政督察专员公署。
期间，1925年8月，当时的广东省政府将江门埠定为省辖市，同年11月在原石湾庙设市政厅；1930年置省辖市，1931年撤市复归新会县。
1949年设江门市，属粤中专区。
1950年1月12日，经政务院批准设立江门市（地级市），此名沿用至今。
1952-1954年为粤中行政区驻地。
1958年降为县级市，属佛山专区。
1959年，高要专区更名为江门专区，原佛山专区的江门市和新会、台山、开平、恩平、高明、鹤山6个县划归江门专区。
1961年，江门专区更名为肇庆专区。
1963年，肇庆专区的江门市和新会、台山、开平、恩平、高鹤5个县从肇庆专区分出，划归佛山专区。
1966年升地级市，改省辖。
1970年降为县级市，属佛山地区。
1975年再改地级市，由省辖。
1983年实行市带县，将台山、开平、恩平、新会、鹤山、阳江、阳春7县划归江门市。
1984年设城区、郊区2市辖区。
1988年阳江、阳春分出。
1992年至1994年，辖内的台山、新会、开平、鹤山、恩平5县先后撤县设市（县级），省直辖，由江门市代管。
1994年，城区和郊区分别更名为江海区、蓬江区。
2002年，新会市改江门市辖区。