元代上海置县后，由主簿典领文书，管理档案。明正德七年（1512年）上海知县黄希英兴修县署，在县署内建架阁库，供存放档案之用。清代沿习明制。民国初期，上海县公署档案由一科负责管理。民国16年（1927年）7月上海特别市成立后，市政府档案由市府秘书处总务科掌管。市政府各级机关相继建立了档案管理机构，档案的收集、整理、利用工作具有相当规模。与此同时，官营、民营企业和社会团体在自身的活动中也形成了大量档案，1995年尚存明清、民国档案130多万卷。