巴尔虎最早的记载出现在唐贞观二十一年（647年），古称“拔野古”。
唐开元二十年（732年），唐朝在今贝尔湖畔建立了以巴尔虎人为主的幽陵都督府。
清康熙年间，有一部分巴尔虎蒙古人被编入八旗，驻牧在大兴安岭以东布特哈广大地区，还有一部分成为喀尔喀蒙古（今蒙古）诸部的属部。
清雍正十年（1732年），清政府将包括索伦（今鄂温克）、达斡尔、鄂伦春族和巴尔虎蒙古族士兵及家属3796人迁驻呼伦贝尔牧区，以防俄人侵扰。
其中275名巴尔虎蒙古人便驻牧在今陈巴尔虎旗境内。
清雍正十二年（1734年），清政府又将在喀尔喀蒙古车臣汗部志愿加入八旗的2400多名巴尔虎蒙古人迁驻克鲁伦河下游和呼伦湖两岸即今新巴尔虎左右两旗境内。
从喀尔喀蒙古车臣汗部迁来的则相对被称为“新巴尔虎”，即“新来的巴尔虎蒙古人”之意。
新巴尔虎蒙古人居住在新巴尔虎左旗和新巴尔虎右旗。
民国八年（1919年），建陈巴尔虎旗。
民国三十五年（1946年）11月1日，陈巴尔虎旗隶属呼伦贝尔地方自治政府。
民国三十七年（1948年）1月，隶属呼伦贝尔盟。
民国三十八年（1949年）4月，属呼伦贝尔纳文慕仁盟。
1955年，属呼伦贝尔盟。
1967年7月5日，陈巴尔虎旗随呼伦贝尔盟划归黑龙江省管辖。
1979年5月30日，划回内蒙古自治区，仍属呼伦贝尔盟管辖。