民国初期，沿袭清制，武威县的行政管理区按水系划分为六个渠，即黄渠（黄羊河水系）、大渠（杂木河上游）、杂渠（杂木河下游）、金渠（金塔河水系）、怀渠（西营河上游）、永渠（西营河下游）。
民国24年（1935），将六个行政管理区划分为2个镇、12个乡，属金羊乡十保。
中华人民共和国成立初属一区八乡二行政。
1956年撤区并乡属羊下坝乡，建立上二沟高级社。
1958年人民公社化时属下双公社，为一大队。
1961年区划调整时属羊下坝公社，命名为上二沟大队。
1983年社改乡时设上二沟村民委员会，属羊下坝乡。
2002年9月羊下坝乡撤乡建镇，属羊下坝镇所辖。