玉树古为西羌牦牛种地；魏晋南北朝时属苏毗王国。
隋称“女国”，隋朝前后为苏毗和多弥二国辖区，唐时为吐番的孙波如，宋时为黎州属下的囊谦小邦之地，元朝归吐蕃等路宣慰司管辖。
明属朵甘思宣慰司，；明末清初玉树各部头人为青海蒙古和硕特部赠爵为诸台吉；清朝受青海办事大臣直接管辖，为囊谦千户领地，下有百户独立长等部落。
民国初，隶青海办事长官，旋隶蒙番宣尉使和甘边宁海镇守使。
1917年设玉树事，1929年改为玉树县，辖今自治州全境。
设置玉树、囊谦、称多3县，统由玉树行政督督察专员公署管辖，县之下千百户制度因袭如故。
1951年12月21日至16日玉树地区第一届第一次各族各界人民代表会议在结古召开。
会议通过了建立相当于专区一级的“玉树藏族自治区”的决议。
1955年6月23日至29日，玉树藏族自治区人大一届二次会议召开。
会议依照《中华人民共和国宪法》和青海省人大常委会《关于改变本省专区级，县级民族自治区名称和组织机构的决议》的规定，将玉树藏族自治区更名为“玉树藏族自治州”。