以镇驻地村旧店命名旧店镇。旧店村始建于明洪武年间,蒋邦礼,王璞、张树林由四川迁此共建家园。因地势洼河水成灾,迁河西岸定居,取名新店;数年后河道西移又迁回旧址,故名旧店。
云山镇地处云山前怀,北有高耸入云的云山山脉。根据平度县县志记载,“因天将雨,则云出”而得名“云山”。1994年全市区划调整,命名云山镇。