古属修德乡，1939年为蛟湖、经楼、大同乡公所和丰城县泉港乡所辖。
1949年为第二区的袁赣、槎市、朱坊（建设）、玉湖、枨湖、蓼溪、蛟湖、廻龙、中坊（联合）、杏卢、沙埂乡和经楼乡的一部分（槎市、朱坊当时属丰城县管辖。
1951年析隶清江县）。
随后并入姣湖、槎市、薛溪乡。
1958年分别属蛟湖、经楼、薜溪公社。
1968年并为张家山公社。
1984年改称张家山乡。
1996年撤乡设立张家山镇。
2003年，经江西省人民政府批准与薛溪街道合并，成立城北街道。
2007年，更名为张家山街道。
街道办事处驻街区清江大道南侧。