早在几万年乃至10万年前的旧石器时代，就有人类在这块土地上繁衍生息。距今约六七千年前，平谷先民就创造了光辉灿烂的上宅文化。
夏商周三代，地属冀州或幽州。刘家河商代墓葬青铜礼器的出土，证明那时平谷地区的繁荣与发达。春秋战国时，平谷地区属燕国之地。战国后期，燕国置上谷、渔阳等5郡，平谷地区属渔阳郡地。秦统一六国，天下分为36郡，平谷地区依然属于渔阳郡地。而那时渔阳郡治所，在今密云西南与怀柔东南交界地带。
西汉时，汉高祖十二年（公元前195年）春，始建平谷县。
刘秀开创东汉王朝，仍设渔阳郡。平谷为渔阳郡所辖九县之一，县城已迁至今平谷老城处。因北魏初年平谷并入潞县，故城尚存。三国魏时，仍置平谷县。《畿辅通志》中“三国魏”下列了平谷县。
晋朝初年，省平谷县，后复置。新编《平谷县志》记载西晋初省平谷县后，地属燕国潞县，潞县为今通州。北魏初，平谷属渔阳郡，太平真君七年（公元446年）省平谷县，并入潞县。
东晋于公元420年亡，南相继有宋齐梁陈，史称南朝（公元420—589年）。北有拓跋氏（后改元氏），于公元386年正月建国，初称代国，至同年四月始改国号为魏，史称北魏（公元386—534年），公元439年灭北凉，统一北方。后又有东魏（公元534—550年）、北齐（公元550—577年）、西魏（公元535—556年）、北周（公元557—581年）政权相继存在，史称北朝。《魏书·地形志》载：“渔阳郡秦始皇置，真君七年并北平郡属焉。领县六，户六千九百八十四，口二万九千六百七十。……真君七年并安乐、平谷属焉。”此处记载很明确，说明北魏太平真君七年（公元446年）以前平谷县确实存在，而北魏建国于公元386年，与东晋公元420年灭亡时，两个政权并存了34年。如果北魏初年复置平谷县，那时东晋政权依然存在，也就可以理解《畿辅通志》上述的记载了。而《畿辅通志·府厅州县沿革表》“北魏”中“太平真君七年，省平谷入潞县”记述，当出自《魏书》了。《读史方舆纪要》认为，潞县北平谷故城，为石赵所置。“石赵”即十六国后赵（公元319—351年），建都邺城。那些小政权走马灯般更迭，多很短暂。如此说来，北魏所省者为后赵的平谷县了。新编《平谷县志》“后赵，复置平谷县，县城移至今通县北小营村，隶渔阳郡”之说，当本于此。另外，北魏年间，要阳县由北内迁，城址在今镇罗营镇上镇村，东魏省去。
隋时，平谷地区隶属无终县。民国二十三年（公元1934年）《平谷县志》也如此写到：“《隋书·地理志》：无终县有泃河、洳河。按：一郡只统一县，泃、洳皆平谷水名，则是时平谷又省入无终矣。”《畿辅通志·府厅州县沿革表》“隋”中有“渔阳郡，开皇十六年（公元596年）徙置玄州，大业初改为郡。无终县，州郡治，大业末改名渔阳。”
《新唐书》同时记载，设檀州密云郡，本安乐郡。有大王、北来、保要、鹿固、赤城、邀虏、石子?七镇。《中国历史大辞典·历史地理》有大王镇词条：大王镇，唐代北边七镇之一，即今北京市平谷县。这里，明确说大王镇就是平谷县。明隆庆平谷旧志：“唐废平谷为大王镇，入渔阳县。”辽时平谷地区仍为大王镇。1984年8月，在平谷旧城塔儿胡同施工时发现“大王镇罗汉院建八大灵塔记”碑，现为上宅文化陈列馆收藏。此碑于辽重熙十一年（公元1042年）七月立，明确写着“大王镇”，可作例证。
明初因元旧制，平谷县仍为蓟州属县。
清初，平谷县仍为顺天府蓟州属县。民国二十三年（公元1934年）《平谷县志》记载：清康熙十五年（公元1676年），分平谷等县属通永道。雍正四年（公元1726年），以通永道专司河务，平谷改属霸昌道。乾隆八年（公元1743年），以平谷县直隶顺天府。
1914年（民国三年），改顺天府为京兆特别区，领县二十，平谷县为其一。1928年（民国十七年），国民党政府迁都南京，裁京兆特别区，划归河北，平谷县改隶河北省冀东道。1932年（民国二十一年）9月，河北省设蓟密行政督察专员区，下辖平谷。
抗日战争时期，八路军第四纵队于1938年6月在镇罗营建密（云）平（谷）蓟（县）联合县，7月打下平谷县城，建立平谷县抗日民主政府。中国共产党领导军民开展抗日斗争，于1940年4月建立蓟（县）平（谷）密(云）联合县，隶属于晋察冀边区行政委员会冀东办事处，7月改属晋察冀边区行政委员会第十三专属（简称第十三专署）。随着抗日根据地的扩大，抗日武装力量的壮大，1940年11月，蓟平密联合县一分为二，南部建立蓟（县）宝（坻）三（河）联合县，北部建立平（谷）密（云）兴（隆）联合县。为巩固平密山区根据地，并向三河县发展，1942年11月，平密兴联合县改为平（谷）三（河）密（云）联合县，均属第十三专员公署。1943年7月，根据冀热边特委“县划小，区划大”决定，平三密联合县划分为两个联合县，北部建立承（德）兴（隆）密（云）联合县，南部将蓟县盘山地区划入，建立平（谷）三（河）蓟（县）联合县，通称老平三蓟联合县，隶属于冀热边行署第一专署。由于抗日根据地的恢复与扩大，1944年7月，平三蓟联合县一分为三，西部建立三（河）通（县）顺（义）联合县，西南部建立三（河）通（县）香（河）联合县，东部仍为平三蓟联合县，通称新平三蓟联合县。1944年隶属关系未变。1945年1月，冀热辽行署建立，平三蓟联合县隶属冀热辽行署第十四专署。这些联合县，抗战中变动频繁，县政府机关常活动于北部山区，时无定所。
抗日战争胜利后，仍沿用联合县建置。1945年11月，平三蓟联合县隶属于冀东行署第十四专署。1946年3月，撤销联合县建置，恢复单一的平谷县，隶属关系未变。1949年8月，河北省人民政府成立，原第十四、十五专区的部分地区合并为通县专区，平谷县隶属于河北省通县地区行政督察专员公署。
新中国成立后，平谷县仍隶属河北省通县专署。1958年3月，通县专署撤销，平谷县改属河北省唐山专署。同年10月20日，平谷县划归北京市。2002年4月，平谷县撤县建区，揭开新的历史篇章。