上海地区图书馆事业自清末起步至民国前期，一直处于自发状态。民国17年（1928年）起由国民党上海市党部宣传部和市政府教育局管辖。行政管理主要为几所市立图书馆，对于企业、社团、私人举办的公众、学校图书馆的管理仅止于登记在案，同时对具有进步倾向的图书馆则加以限制，直至查封。

解放以后，图书馆事业纳入社会文化发展整体计划中。50年代前期，市人民政府有关部门通过接收，改造原公立图书馆，兴办新馆，同时对由社团、企业、私人举办的图书馆采取政治上帮助，经济上补助等措施，全市初步形成了面向各阶层读者的图书馆服务系统。1949年下半年至1952年末，高等学校经过多次撤、并、新建和院、系调整，各校藏书重新组合，15所高校图书馆（室）的文献收藏质量有了较大提高。市人民图书馆在全市各区（包括郊区）设立了图书阅览室或流通站，并与市总工会协作，帮助企业建立了大批工会图书馆。至1954年末，上海地区图书馆的覆盖率在国内居领先水平。

各个图书馆分属于各系统、各单位，没有单独的行业管理，是图书馆事业与其他行业在管理上的重大差异。50年代后期起，公共、学校、科研、工会等系统都在实践中逐步建起了业务协调协作的网络。文化系统的公共图书馆，形成了上海图书馆对区（县）级图书馆开展业务辅导，区（县）馆对街道、乡镇馆进行业务指导的三级辅导网，工会图书馆也形成了市工人文化宫图书馆、区（县）工人俱乐部和局工会图书馆、基层企业工会图书馆三级指导网络；在学校系统，高教局于1962年即成立了图书馆工作协作组，在本系统开展业务管理和协调活动。1982年成立了市高校图书馆工作委员会（1988年改为图书情报工作委员会），成为高教局领导下对各校图书馆进行业务管理、协调的机构。1992年，市教育局成立图书馆工作委员会，则是对中专、中小学图书馆进行管理的工作机构。在科研系统，中科院上海分院和上海社会科学院，也根据各自特点，在行政管理之外，建立了业务交流、指导组织。1958年起，上海先后成立了市科技图书馆协作网、全国第二中心图书馆等跨系统图书馆组织，在文献采购、开发、利用等领域开展合作，提高了各图书馆为科研、生产服务的能力。“文化大革命”期间，协作网络活动瘫痪，1977年末，上海市图书馆协作委员会成立，恢复了上述两组织的功能。经过30余年的摸索，上海地区图书馆事业管理在实践中形成了组织、人事和经费由行政部门主管，业务工作由网络、协作组织指导、协调的管理模式。

建国以来，各级政府和主管部门对图书馆建设作了很大投入。尤其是中共十一届三中全会以后，对图书馆事业的投入急速增长。在图书馆建筑方面，80年代以来，上海图书馆扩建、新建馆舍总面积达96800平方米，区县级图书馆新建、扩建馆舍总面积有6万多平方米，高校图书馆新增总面积更有26万平方米之多。为适应现代化管理的需要，各系统行政部门拨出大量资金，为图书馆添置电子计算机等现代化设备。此外20世纪80年代以来，各协作网络还组织了大规模的在职教育活动，帮助各馆干部、职工提高文化水平、专业能力，使图书馆干部队伍尽快适应新时代专业工作的需求。

1955～1956年，上海市文化、出版管理行政部门组织了对反动、淫秽、荒诞书刊的处理和私营书摊铺的安排改造，图书馆工作者承担了主要工作。