上海基层政权建设工作的领导机关是中共上海市委和市人民政府，民政部门是具体负责基层政权建设日常工作的职能部门，起参谋、助手作用。

上海解放初期，民政部门承担基层民主建政的具体工作，从接管区公所开始，到废除保甲制度和建立区人民政府，并参与召开市、区各界人民代表会议，参加城乡人民代表大会的选举事务。1954年12月第三次全国民政会议以后，上海民政部门不再承担基层政权建设的日常工作。直到1982年，中共中央规定民政部门负责基层政权建设的日常工作后，才重新承担基层政权建设工作。主要任务是：调查了解基层政权的现状和存在的问题，向中共上海市委和市政府提出改进和加强的意见与建议；总结和交流基层政权建设的经验，开展街道、乡镇和居（村）民委员会的评比先进和表彰活动；拟订、修改有关条例和规章制度；指导居民委员会和村民委员会的组织建设和制度建设，以及培训街道办事处主任和乡镇长、村（居）民委员会主任。

街道办事处是区政府的派出机关，其前身曾称区接管专员办事处、冬防办事处、区人民政府派出人员办事处。1954年12月，全国人民代表大会通过并公布《城市街道办事处组织条例》，此后，上海把区政府派出人员办事处统一改称为街道办事处。开始时，街道办事处主要办理市、区两级政府有关居民工作的交办事项，指导居民委员会工作，反映居民群众的意见。以后管理范围和职责有所扩大。在“文化大革命”期间，街道办事处的工作以“抓阶级斗争”为主，在思想上、组织上、工作上都遭到严重破坏。改革开放以后，城区管理任务加重，经1985年与1995年两次体制改革，街道在不改变《宪法》所规定街道办事处是区政府派出机关性质的前提下，根据上海特大城市的特点，赋予一级政府的部分行政权力：建立街道财经机制，建立居民代表会议制度，组成街道监察队，形成市、区“两级政府三级管理”的格局。1997年，全市有102个街道办事处。

农村的基层政权是乡镇人民政府，经历过乡镇人民政府、人民公社、重建乡人民政府和撤乡建镇几个阶段。从政权初建到农村体制改革，不断加强农村基层政权建设。通过理顺关系，分清职责，进一步完善乡镇政权体制。1997年，全市有205个镇人民政府和9个乡人民政府。

城镇居民委员会和农村村民委员会是群众性自治组织。居民委员会经历群众福利组织和冬防服务队等阶段。居民委员会在做好居民福利工作外，还进行治安保卫、调解居民纠纷等工作，但在“文化大革命”期间，居民委员会也“抓阶级斗争”，承担了大量的“额外”任务，干扰了居委会作用的发挥。1985年，居民委员会整顿、改选后，管辖范围和任务作了调整。特别是居民委员会开展居民自治示范活动后，使居民委员会基层自治作用得到发挥。1997年，全市有3361个居委会。农村村民委员会是1982年以后根据国家《宪法》的规定，以原生产大队为基础，采用“一大队一村”的办法建立起来的。村民委员干部依法选举产生，建立健全各种组织，制订必要的规章制度和村规民约，开展村民自治示范活动，实现村民的自我管理、自我教育和自我服务。1997年，全市有2914个村委会。