金山兴学较早，元元统年间有社学，明正统年间置卫学，清雍正年间设县学，道光年间建书院，私塾、义塾散存乡间。清光绪年间戊戌变法后，各地废科举、兴学堂，张堰留溪、廊下育英和朱泾柘湖等学堂率先开办，到宣统元年(1909年)，全县有各类学堂65所，学生2101人。民国期间，战祸迭起，民生凋敝，教育事业发展缓慢。到1949年，全县有初级中学2所、简师1所、小学98所；在校中学生375人、简师生89人、小学生8895人，学龄儿童入学率30．79％，农村文盲普遍。

解放初，党和人民政府接管学校，着手改造旧教育，学校面向工农，培训了师资队伍、改善了办学条件，扩大了学额，并在工农群众中广泛开展了扫除文盲的工作。此后，受“大跃进”运动影响，教育事业大起大落，1958年小学入学率99％，1963年降到48％。1964年，通过办耕读小学等形式，使1965年学龄儿童入学率回升到82％。“文化大革命”期间，批判所谓“十七年修正主义教育路线”，教师被贬为“臭老九”，大批教师受冲击，学生思想受毒害；文化课大量被砍，教学秩序紊乱，教学质量严重下降。

1978年以后，经过拨乱反正，各类教育出现了新局面：幼儿教育遍及城乡；初等教育全面普及，并进而实施九年制义务教育；中学教育进行结构改革，发展了职业教育；成人教育在1980年扫除文盲的基础上，开展普及初中文化教育和职业技术教育，各种自学中专、大学，通过电视、广播和函授等传播媒介蓬勃开展，教育质量明显提高。1985年，全县有幼儿园262所，入园幼儿14681人，入园率71.63％；小学240所，在校学生43498人，入学率99.35％；中学50所，学生21826人，入学率99.26％；中等专业学校9所(班)，学生1021人；各种职业班12班，学生347人。同年，各界人士隆重地庆祝首届教师节，进一步认识到教育事业是国家现代化建设的基础，开展了尊师重教活动。但是，由于教育事业飞速发展，教育经费虽连年增长，仍不敷需要；师资队伍虽有所加强，仍难以适应新形势下对教育事业的要求。