金山素有传统的民间体育活动，但长期处于小型、自发状态。民国时期，县教育局兼管体育，现代体育项目逐渐由学校传到社会。20世纪30年代起，篮球、乒乓球活动，在集镇和学校较为活跃。

解放初期，体育工作先后由文化馆和工人俱乐部管理。1956年国庆节，金山县体育运动委员会成立，体育活动逐渐有领导地开展。1958年划归上海市后，城乡各项体育活动更为活跃，教练员、运动员得到较好的培养和训练，体育设施历年有所增置。“文化大革命”期间，实行军事接管，体育工作一度受到影响。粉碎林彪、江青反革命集团以后，特别是党的十一届三中全会以后，体育工作开创了新局面。全县19个乡镇全部建立乡镇体委或体育领导小组，配置了体育专、兼职干部。体育活动经费列入县、乡镇财政预算，且年有增加。体育活动以城镇体育为中心，以学校体育为重点，开展多渠道、多层次的训练和比赛。活动项目由球类、田径、象棋，扩大到武术拳操、气功、桥牌和围棋，参加体育锻炼人员由青少年发展到中老年，人数占全县总人口的38.82％。1980年以来，有38名运动员被输送到市划船队、田径队、举重队，并在国际、国内体育比赛中出了成绩。山阳乡、亭林镇、亭新乡、朱泾镇和张堰镇被评为市体育先进乡镇，1988年5月，经国家体委验收，金山县被评为全国体育先进县。