市政协由中共上海市委、各民主党派市级组织、无党派民主人士、各人民团体、少数民族和社会各界的代表，归国华侨和港澳同胞的代表，以及特别邀请人士组成。市政协委员由市政协各参加单位和各系统提名推荐，经各有关方面反复协商产生。每届市政协的参加单位、委员名额和人选，由上届市政协常委会协商决定。在每届任期内如需增加或变更参加单位、委员名额和决定人选，由当届市政协常委会协商决定。

根据《政协章程》的规定，市政协设常委会主持会务。常委会由市政协主席、副主席、秘书长和常委组成，其候选人由参加市政协的各党派、团体和各界代表人士协商提名，经全体会议选举产生。市政协主席主持常委会的工作，副主席、秘书长协助主席工作。80年代起按《政协章程》规定，由主席、副主席、秘书长组成主席会议，处理常委会的重要日常工作。按照需要每届设副秘书长若干人，协助秘书长进行工作。副秘书长人选由秘书长提议，经常委会通过任免。

为贯彻中国共产党领导的多党合作和政治协商制度，市政协在每届委员、常委、正副主席和正副秘书长的名额中，对中共党员与民主党派和无党派人士保持一定比例。

根据《政协章程》的规定，历届市政协按照实际情况和工作需要设置若干个专门委员会(工作组)。各专门委员会(工作组)的组成，以市政协委员为主，同时视工作需要吸收少数非政协委员参加，并设主任(组长)、副主任(副组长)若干人主持工作。专门委员会(工作组)按专业或界别组织，是市政协开展日常工作的常设机构。各专门委员会(工作组)的设置或撤销，以及正副主任(组长)的任免，由常委会讨论决定。

市政协成立时按《政协章程》规定，每届任期为2年。1982年以后，按修订的《政协章程》规定，每届任期改为5年。