当时这里是北方匈奴等族入侵河西的一条重要通道。
汉武帝元鼎六年(公元前111年)至汉昭帝(刘弗陵)始元二年(公元前85年)，为了防御匈奴入侵，在泽索谷置日勒都尉，屯兵防守，是硖口古城最早设防的记载。
由此看出，早在距今2000多年前，硖口一带就有先民在此繁衍生息，并以兵防要地被封建王朝所重视。
丝绸之路开通以来，这里成为东西来往的必经通道，其地理位置和战略地位日渐重要。
1983年老军人民公社改称老军乡，该村成立硖口村村民委员会，命名为硖口村至今，2007年修建硖口新街，村民整体搬迁至新街。