上海城隍庙真正始建于明永乐年间（1403-1424），距今已有近六百年的历史。

上海老城隍庙原为霍光神祠，供奉的是西汉名将霍光神主。上海建城隍庙，相沿成习，霍光成了上海资格最老的城隍爷。

秦裕伯是上海县陈行人，另有说是元末明初河北大名人。

传说他是一个孝子，因其母感叹未见过金銮殿，故专门建了一座象金銮殿的建筑。被人告密，皇帝派员来查，他就连夜将殿改成金山神庙，躲过了一场灾祸。

清军南下时，遭到上海地区人民的强烈抵抗，清军将领原准备屠城。屠城前夜，清军将领梦见了秦裕伯，秦警告他不准杀人，这才取消了屠城计划。因秦裕伯“显灵”，救了上海百姓，故被列为城隍爷。

据说上海人真正顶礼膜拜的还有第三位城隍爷。1937年抗日战争爆发后，市民从“陈公祠”中请出了1842年第二次鸦片战争中血染吴淞口、在吴淞炮台战死的江南提督陈化成的神像。