民国9年（1920年）8月,上海社会主义青年团成立，为全国最早成立的团组织。团的第一次全国代表大会后，上海团组织改组为中国社会主义青年团上海地方执行委员会。民国14年改组为中国共产主义青年团上海地方执行委员会。次年4月成立江浙区执行委员会，直接领导共青团上海地委的工作。民国16年四一二反革命政变中，团组织遭到严重破坏。同年5月团的第四次代表大会召开后，成立共青团江苏省委，撤销共青团上海地委，原共青团上海地委下属各部委改组为区委，直接受团江苏省委领导。民国24年7月，共青团中央临时工作委员会遭到破坏，共青团江苏省委及其下属组织仍然坚持斗争。同年12月，共青团中央决定取消共青团。但共青团江苏省委决定继续坚持工作，团员以群众面貌出现，参加抗日救亡工作。抗战爆发后取消共青团组织，要求团员和团干部奔赴前线和后方。

1949年5月27日上海解放。6月，中国新民主主义青年团上海市工作委员会宣布成立。1953年5月28日召开中国新民主主义青年团上海市第一次代表大会，宣告中国新民主主义青年团上海市委成立。1957年改名为中国共产主义青年团上海市委员会。“文化大革命”中，共青团组织受到冲击，基本瘫痪。“文化大革命”结束后，1978年召开中国共产主义青年团上海市第七次代表大会，共青团组织得到新生。

共青团是中国共产党领导的先进青年的群众组织，是广大青年在实践中学习共产主义的学校，是党的助手和后备军，是党联系青年的桥梁和纽带，是国家政权的重要社会支柱之一。上海市共青团的领导机关是共青团上海市委，他是中国共产主义青年团的地方组织。其下属有按行政区划建立的区、县和街道、乡镇共青团两级组织，有按企事业单位建立的团组织。