上海地区文献收藏有文字可考的史实始于元代初年。当时中原地区世家土族，因战乱大量迁往江南，同时也带来了中原的大量文化典籍。一部分中原学者南迁后定居于现属上海市郊的青龙镇、乌泥泾等处，上海地区的古代藏书活动由此萌芽。当时避居于青龙镇的南宋遗民庄肃是上海地区第一位藏书家，明清时期，上海地区有文字记载的大小私家藏书有百余处，大多规模、影响有限，只有清代中期李筠嘉的藏书，高峰时达到30万卷。

19世纪中期起，上海地区文献收藏增长较快。当时西方文化的融入大多以上海为第一站，外国的宗教、学术团体在上海建立了第一批图书馆，开始改变传统的文献收藏形式，伴随上海经济的发展，新闻、教育、出版事业都在国内居领先位置，地区文献出版、收藏也有了快速发展的条件。此外，自19世纪60年代至20世纪3O年代，国内战乱频仍，上海地区社会环境则相对稳定，也使各地，尤其是江南地区的文献流向上海，这种势头一直保持至20世纪30年代末，因日本侵华战争爆发而中断。建国初期，市文化主管部门经多方调查，至1949年末，全市各类图书馆藏书总数为400万册，再加上大型企业、机构、社团收藏的图书、资料100多万册，全市图书、资料总藏量在500万册以上。

建国以后，市文化、教育主管部门对全市图书、资料收藏进行了多次大规模的结构调整，使各学科文献根据图书馆类型、服务需求等相对集中，为日后规模发展奠定了基础。50年代中期起，各系统、各级主管部门逐年增加图书馆建设的资金投入，使藏书发展加快。至1959年末，全市各系统图书馆藏书总量达到2000万册以上，同时，在图书保管、利用等领域也开始形成系统的管理制度。“文化大革命”前期，图书馆受到较大冲击，尤其是部分中、小型图书馆，藏书损毁严重。分散的私家藏书几乎荡然无存。图书馆工作者坚持传统的职业道德，以各种形式与极“左”思潮抗争，保护了珍贵典籍与大部分藏书。

中共十一届三中全会以后，随着各级主管部门对图书馆建设的大量资金投入，馆舍条件的扩大、改善和改革开放政策的推动，全市图书馆藏书急速增长，同时，各种非纸张印刷型的文献载体也大量进入图书馆。通过各系统主管部门的组织协调和政策支持，在大型图书馆专业藏书的基础上，形成了一批学科专业文献集藏中心，为科研、教育事业提供了重要的文献支持，部分专业文献集藏在国内、国际均有重大影响。至90年代前期，全市各系统各级图书馆入藏的文献总量已超过1亿1千万册（件）。

20世纪80年代以来，上海地区私家藏书逐渐复苏，主要为学者的专业性课题型文献集藏和图书爱好者的兴趣性专题集藏。此外，青浦县朱家角地区民间藏书这一传统乡风，80年代又重新兴旺起来。

20世纪50年代起，上海图书馆等大型图书馆即开展了古代文献保护的研究。至80年代，保护范围扩展到近代文献和各种特殊载体的文献，保护手段也从传统工艺形式扩展到现代化设备研究、应用，并取得多项成果。