解放前称小杨营，属靖远县河畔乡管辖，解放后又划归会宁县管辖。
在解放初期小杨营属会宁五区，白草塬管辖共有小杨营村、方家寨子村、田家窑，（注：这时期的村相当于现在的村民小组），在1951年后半年才划归郭城驿管辖。
1956年建初级社，此时小杨营分为小杨营初级社（包括现在的小南社和小北社）、田家窑初级社（包括现在的方寨社、田窑社和沙嘴社），1957年建高级社时小杨营又变成为方田大队，1959年方田大队其实以小杨营人口较多，所以建议改名为小羊营大队（此时大队有了公章，公章上为“小羊营”，“杨”变为“羊”），1966年后半年文化大革命开始，小羊营大队又改名为先锋大队，1979年又恢复为小羊营大队。
1984年后半年改公社为乡改大队为村时，称小羊营村并一直沿用至今。