1952年10月民主建政时建关下、营门东2个街公所。
1954年8月街公所改称街道办事处。
1956年5月营门东办事处和关下办事处合并组成三条石街办事处。
1960年3月三条石、大胡同两个街合并为一个公社即三条石人民公社，1962年10月三条石人民公社更名为大胡同人民公社，随后又恢复三条石街道办事处，1998年7月三条石街道办事处与河北大街街道办事处合并成三条石街道办事处，2002年8月大胡同街部分居民划归三条石街道办事处管辖，沿用三条石街道办事处。
2019年3月撤销大胡同街道，以原大胡同街道和三条石街道所辖区域，设立新的三条石街道办事处。