“上海庙”一词由“尚赫庙”演变而来，“尚赫”系蒙古语，意为分开的马鬃似的地形。

2000年上海庙牧场、芒哈图乡合并成立上海庙镇;