清宣统三年九月（1911年11月），公共租界会审公廨内增设检察处。华界自民国元年（1912年）起，先后建立上海地方检察厅、上海地方法院检察处，并在境内浦东设分支机构。民国14年五卅惨案发生后，国人强烈要求收复租界司法主权。几经交涉、变更，民国19年4月后分别在公共租界、法租界建立上海第一、第二特区地方法院，均设检察处。上海沦陷期间，日伪政权先在华界，后又在上海全境建立上海地方法院检察处、上海地方检察署。抗日战争胜利，国民政府接管后，上海地方法院仍设检察处。境内部分刑事案件的侦查、起诉和民事案件的监视判决、执行，由上述检察机构管辖。

新中国诞生后，国家步入法制轨道。1954年10月后，境内老闸、黄浦两区率先建立区级人民检察机关，投入肃清反革命分子和打击刑事犯罪的斗争，对公安机关提请审查的案件实施侦查监督、对人民法院的审判活动实施审判监督，维护人民群众的合法权益，保障社会主义建设顺利进行。但在1957年“整风反右”运动中，部分检察职能受到错误批判，一些检察干部被错划为右派分子，机构裁并，人员减少，消弱了法律监督职能。1960年后，逐步恢复审查批捕、审查起诉等业务机构和监督程序。“文化大革命”开展不久，检察机关实行军管，机构被撤并，不少干部遭迫害，1975年1月检察机关从立法上被撤销。

中共十一届三中全会重申加强社会主义民主和法制建设。区人民检察院于1979年1月重新建立。区检察院认真接待公民的控告、申诉；查处“文化大革命”中侵犯人权、刑讯逼供、致人死伤的案件，平反冤、假、错案，为拨乱反正服务。在打击经济犯罪方面，针对改革开放以来贪污、贿赂等经济犯罪活动突出和时起时伏的特点，贯彻中共中央、全国人大常委会及上级领导机关的有关决定、指示。1982年3月选调干部，充实力量，加强侦查破案工作。1985年后，为把经济犯罪气焰压下去，连续作战，取得预期效果。1988年6月建立控告检举贪污受贿罪案接待室，直接依靠群众查处经济犯罪。1989年8月，最高人民法院、最高人民检察院《关于贪污、受贿、投机倒把等犯罪分子必须在限期内自首坦白的通告》发布后，在群众举报的强大声势和国家政策法律震慑、感召下，一批犯有贪污、受贿行为的人投案自首，获得从宽处理，同时抓紧对大案、要案的侦破，取得反贪污、贿赂斗争的胜利。1990年6月，最高人民检察院授予区检察院“全国检察系统反贪污、贿赂先进集体”称号，并通令嘉奖。在打击刑事犯罪方面，区检察院认真执行“依法从重从快”方针，特别在1983年、1986年严厉打击严重刑事犯罪活动和1989年春夏之交政治风波中，提前介入，参与侦查，快捕、快诉，有效地惩罚严重危害社会治安和破坏公共秩序的罪犯，对维护社会安定和治安秩序发挥积极作用。1989年11月，最高人民检察院授予区检察院“制止动乱、平息反革命暴乱先进集体”锦旗，并通令嘉奖。1991年9月，最高人民检察院授予区检察院“全国刑事检察系统先进集体”称号。