雍秦在今广南县境内有句町国。
西汉元鼎六年（前111），置牂牁、越嶲等郡。
东汉今文山州隶牂牁郡。
三国蜀汉建兴三年(225)春，今文山州8县隶兴古郡。
西晋泰始六年（270），设宁州领南中7郡。
晋太安二年(303)，复置宁州，今文山州各县属宁州兴古郡。
隋代今文山州属南宁州总管府。
唐初置南宁州都督府（治所曲靖），分属严州、汤望州、归武州、奏龙州、英州、声州、勤州地。
宋代大部为大理国地。
元代今文山市属教合三部地。
明洪武十五年(1382)，临安府辖教化长官司(文山、砚山)、八寨长官司(马关、麻栗坡)。
清康熙八年(1669)，裁广西府维摩州，部分辖地划入广南府和开化府。
道光三年(1823)，文山县增设江那县丞管江那里。
光绪十三年(1887)，设临安开广道辖临安、开化、广南3府。
1913年，裁撤开化府，文山县附郭称开化县。
1914年属蒙自道。
1929年废道，各县直属省。
1946年，云南省第二区行政督察专员公署改称云南省第四区行政督察专员兼保安司令公署。
1950年，文山县解放，改称文山专区专员公署。
1958年4月1日，建立文山僮族苗族自治州。
1965年10月，更名为文山壮族苗族自治州。
1968年9月，州县军事管制委员会先后改称州、县革命委员会。
1975年5月，恢复文山壮族苗族自治州。