清同治六年（1867年），江南制造局在科学家徐寿、华蘅芳等主持下，开创中国近代造船事业，于清同治七年建成中国近代第一艘600吨木质船“恬吉”号（后改“惠吉”号）。清光绪二年（1876年）建成300吨铁甲兵船“金瓯”号，船体建造从木质发展到铁质。至光绪二十一年，共建成8艘兵船。清政府饬令停造兵船。民国7～10年（1918～1921年）为美国建成4艘万吨运输舰，显示出上海巨大的造船能力。民国25年又建成“平海”号巡洋舰，可与日本同型舰“宁海”号匹敌。抗日战争爆发后，直到上海解放，民族造船工业凋零，舰艇建造衰落，至1949年仅造舰艇114艘。

解放后，1952年，试制53甲巡逻艇，并批量生产。1953年6月4日，中苏两国政府签定了“六四协定”，上海有沪东、江南、求新等船厂，承担了苏制6601护卫舰、6603中型鱼雷潜艇和6604大型猎潜艇的转让制造，1957年完成这批舰艇的建造任务，及时为人民海军提供了必需的装备，也为日后仿制与自行研制舰艇积累了经验。1959年，2月4日，中苏两国政府又签订了“二四协定”，上海有3家船厂承担从苏联引进技术建造舰艇。正当三型产品（改进的中型鱼雷潜艇、导弹艇和水翼鱼雷艇）开工不久，1960年7月，苏联单方面撕毁协议，使引进建造工作陷入困境。上海造船职工在中国共产党的领导下，自力更生，终于在60年代中期就完成了这批军船的建造。1965年后，上海船舶工业，根据海军装备科研第三个五年计划，先后建造了035潜艇、导弹驱逐舰和037反潜护卫艇。1986年，中国第一艘新型导弹护卫舰在沪东造船厂建成，上海舰艇制造步入了导弹化、电子化、自动化、现代化的新阶段。