清顺治年间，山东商人集资在今重庆南路自忠路口周围，购地50余亩，辟为义冢；乾隆十九年，徽州、宁国商人在斜桥南建立徽宁会馆及其殡舍思恭堂。

上海开埠后，特别是伴随租界的出现和扩张，沪地人口日众，城内及被圈入租界的原城外殡舍墓园纷纷迁移。自清咸丰、同治年间至民国初年，浙金公所、湖南会馆、湖北会馆、浙绍永锡堂、泉漳别墅、四明公所南厂等会馆公所及其殡舍墓园，相继迁建入区境。

民国初，同乡会崛起，有选举产生的领导机构，以“决议”统一行动。洞庭东山同乡会下设有20个专门委员会，湖南同乡会下设有8个专门委员会，分别对经常接触的问题进行调查，研究对策，瞿真人庙还建有会计师年审的财务制度。同乡会的社会基础和活动范围较大，逐渐取代会馆成为移民的代言人，多数会馆降为举办具体事业或提供活动场所的管理机构。由于控制同乡会的集团和领袖人物的起落及相互间利害关系的变化，加上抗日战争等重大历史事件的影响，同乡会组织呈现不稳定性，会址常迁，存在断续，屡散屡建，因观点歧异而多个同名乡帮团体并存。

上海解放后，特别是土地改革和对资本主义工商业的社会主义改造后，乡帮团体失去了诸如房地产收入、工商业者捐款等资金来源，陆续停止活动。所举事业由民政、教育、卫生等系统接管，境内乡帮团体的存在和活动遂为历史。