原属领方县地。
唐武德四年（621）析领方县地置无虞、上林、戈、领方、琅玡、思干、贺水等县。
宋开宝五年（972）废止戈、无虞、贺水3县入上林县；治平四年（1067）析止戈地入武缘县（今武鸣县）。
清咸丰七年（1857）李锦贵率农民起义攻克上林县城，改称澄江县，同治元年（1862）复称上林县。
1915年拨古零土司地27村入上林县，1933年划上级乡归隆山县（今马山县），1935年划思陇、邹圩2乡归宾阳县。
1952年12月划蓝甲、古蓬、安良、马蹄、北更、思吉6乡归忻城县。
1958年与宾阳县合置宾林县。
1959年复置上林县。