解放前夕地域属蓬莱区。1950年为蓬莱区第一冬防办事处。1951年改为第一派出人员办事处。1955年分巡道街、小南门、大南门3个办事处。1958年合并,称巡道街办事处。1959年改称小南门街道办事处。1960年列为城市人民公社试点,成立街道委员会。1961年撤销街道委员会,仍为小南门街道办事处,地址在中华路581号。辖小石桥、筷竹弄、荷花池、白渡路、沙场街、天灯弄、金坛路、面筋弄、大夫坊、赵家宅、乔家路、永泰街12个居民委员会,有447个居民小组,常住户口15123户,41606人,其中回族301人,满、朝鲜、壮、藏等族17人。

    辖区内原有人文景观较多,后大多湮没。清雍正年间,苏松兵备道移驻上海,道台衙门设大东门南,辛亥革命时衙署被毁,后在废址上营建集贤村。坐落于天灯弄的书隐楼是市内保存较完整的清代建筑,其砖雕艺术称沪上一绝。小南门警钟楼曾敲响光复上海钟声,楼前曾矗立李平书铜像。辖区内原有水仙宫、宁海禅院、药王庙、地藏庵、火神庙6座寺庙。荷花池毗邻有建于清代的天后行宫,又称“浙宁会馆”。城外篾竹街是清代和民国时期的竹行街市,以加工竹篮闻名。面筋弄、筷竹弄、猪作弄、火腿弄等也因作坊聚集成为街市。

    辖区内人口密集,道路狭窄、棚户连片。1986年起,街道办事处会同区有关部门在辖区内翻建小巷28条,总长1400余米,面积近3000平方米,改造弹街路19条,面积1万余平方米。1987年7月,江泽民市长视察辖区内引线弄、火腿弄、和顺街危房,要求区政府在此进行旧房改造试点。当年9月,引线弄旧房改造工程动工,采用群众出钱、单位资助、政府支持的方法,1988年底竣工,改建成5幢住宅,弄内居民户平均居住面积由19.1平方米增加到22.2平方米,并增设了厨房、阳台、厕所等。

    辖区内荷花池幼儿园创办于1958年,以“愉快、活泼、安全、向上”为宗旨,加强家、园联系,在教学中打破学科分离的传统方法,寓教于乐，坚持教、养并重,合理安排幼儿的饮食起居和体育锻炼,使幼儿身心得到健康发展。该园1976年被评为市示范幼儿园,1980年被评为全国“三八”红旗集体,特级教师邵黎柳获全国“五一”劳动奖章。

    1985年以后,街道成立了劳动服务公司、民政福利公司、合作联社,下辖14个企业。1992年成立南城工贸实业公司、南市西川经济开发公司,现有企业和商业网点27家,从业人员636人,1992年产值(营业额)1872.96万元,上交税收87.7万元,利润144.11万元。街道个体经济385户,经营项目有手工、建筑、出租汽车、装潢设计、百货、修理等。为广开门路,安置回沪知识青年,街道在小石桥街开辟“修配服务一条街”(后改称“小南门修配服务中心”),设近30个摊位,有拉链、锁、钟表、盆桶、伞、鞋以及裁剪等20余个修配项目。既解决了社会上“修配难”的问题,又为待业青年提供了就业机会。

    辖区有市属、区属企业38家；中专1所、中学1所,小学4所,医院1家。