1949年8月3日，上海市人民政府邀请各界代表举行上海市第一次各界代表会议（注：1950年10月召开市第二届第一次各代会时，将原来的市第一次各届代表会议和1949年12月召开的市第二届各代会以及1950年4月召开的市第三届各代会，改称为市一届一次、一届二次、一届三次各代会。）。12月5日，市第一届第二次各界人民代表会议根据中央人民政府委员会第四次会议通过的《市各界人民代表会议组织通则》的规定，决定成立上海市各界人民代表会议协商委员会(简称市协商委员会)，作为上海市各界人民代表会议(简称市各代会)休会期间的常设机构。1950年6月，根据中国人民政治协商会议全国委员会(简称全国政协)《关于地方委员会的决定》，市协商委员会开始代行人民政协地方委员会的职权。1954年8月经普选的上海市人民代表大会(简称市人大)召开后，市协商委员会不再具有市各代会常设机构的职能。根据全国政协和中央人民政府政务院(1954)政政邓字第34号《联合通知》，市协商委员会机构暂时保留，继续进行统一战线工作。市协商委员会从1949年12月至1955年5月，共经历3届。1955年5月，根据《政协章程》，成立中国人民政治协商会议上海市委员会。市政协从1955年5月至1993年2月，共经历7届。

市协商委员会和市政协分别设立常务委员会(简称常委会)主持会务。随着工作的开展，先后组建专门委员会、工作组等工作机构(简称委组机构)和秘书处、办公厅等办事机构，并成立为市协商委员会和市政协工作服务的事业机构。