南木林县在吐蕃时期被称为“扎西孜”（见史书《汤东杰布》），萨迦王朝时期，称为“香巴”，即后藏6个万户司之一。
清朝初期到1959年，西藏民主改革以前，南木林县分属西藏噶厦政府的南木林宗、邬郁宗、拉布宗、甲措宗和班禅堪布会议厅的扎西孜、布尔多、德庆热布杰、央、鲁东、孔让、多吉林7个溪卡管辖。
1960年1月，设立南木林县，隶属日喀则专区。
2014年6月，撤销日喀则地区，设立地级日喀则市，南木林县隶属日喀则市。