隋以前，境域属庐陵县。
隋末，析庐陵十一乡置吉水县，境域隶属吉水县中鹄乡。
1949年，分属吉水县文峰区砖门、平湖乡。
1954年，分属吉水县文峰区砖门、平湖、临江乡。
1958年，撤砖门、平湖、临江3乡，合并成立临江公社。
1959年，析置平湖公社，境域分属吉水县临江、平湖公社。
1970年，临江、平湖公社并入临江公社。
1984年3月，改为吉水县临江乡;10月，改为天玉乡。
1987年5月，划归县级吉安市。
1994年，改置为天玉镇。
2001年1月，隶属吉安市青原区。