元大德《昌国州图志》卷二载为“三姑（岙）”，卷四载为“三姑山”。
明嘉靖《筹海图编》卷一也载为“三姑山”。
据传，三姑山之名源于岛北的三姑礁（前姑礁、中姑礁、圣姑礁的合称）。
清代以后，多称大羊山、老羊山，由小羊山派生得名。
清康熙《定海县志》卷五：“大羊山：江南、浙江分界，东至左营水汛小衢山，约计水程一百里；南至寨子山，约计水程一百里；西至乍浦官山，约计水程一百里；北至江省小羊山，约计水程十里；西北至大小七山，约计水程二百里。”又载：“大羊山，闽人呼为猴山。”以当时岛上多猴子得名。
1934年设大羊乡，属定海县。
1947年改称大洋乡。
1950年起属嵊泗特别区（县）。
1953年分设为大洋乡、洋东乡、洋西乡。
1958年改为大洋生产大队。
1962年4月划归大衢县，与滩浒山、小洋山、徐公岛合并设洋山公社。
1964年7月复归嵊泗县。
1966年分设为大洋、小洋、滩浒3个公社。
1984年复为大洋乡。
是年12月改置镇。
2001年2月与小洋、滩浒2乡合置洋山镇。