1899年（清光绪二十五年）城厢东门义塾改为肇兴实用学堂后，本县始有新学。至清末，全县有公立高等小学堂l所，公、私立两等小学堂8所，公立女学堂3所，教会学堂2所，乡镇初等小学堂91所，合计各类小学堂共106所。民国初，江苏省都督府颁令初等小学由市乡负责筹设，并限令推广。1916年，全县共有小学211所（其中初小204所）。1927年省普通教育亩捐启征后，加速小学教育发展。1936年，全县公立小学275所。汪伪统治初期，只在市镇和沿交通线地段恢复了部分小学。1938－1945年间，淞沪游击队第五支队在控制区内两度推行抗日义务教育。抗日战争胜利后，国民党政府实施《国民教育法》，逐步恢复和发展小学教育。至1948年下半年，全县各类国民学校316所，学生35656人，占全县学龄儿童数的36.4％。

解放后，劳动人民子女迫切要求入学。1952年，全县小学为358所（已剔除划归川沙、上海县的学校）。1958年“大跃进”，扩大招生名额，全县小学入学数69785名，占学龄儿童数93.07％。1961－1963年，贯彻以调整为中心的“八字方针”，小学入学数逐年有所下降。1962年，全县小学入学数为62520名。1964年，推行“两种教育制度”，创办耕读小学320所，招生7991名。至1966年有各类小学810所，学生92280名，为1949年秋在校学生数的4.1倍。“文化大革命”期间，出现大量流生，1970年小学流生9612名。1977年后，对小学教育进行全面整顿，稳定学校规模，充实师资队伍，改善办学条件，1983年本县小学入学率为99.6％，经市教育局验收合格，实现普及小学教育的历史任务。1985年全县有小学校315所，在校学生64753名。