本县地处上海东南沿海，历来是祖国的海防要地。远在建县之前，1386年（明洪武十九年），这里就建立守御南汇嘴中后千户所，作为祖国的海防要塞。此后，历代政府都在本县设有驻军，以守卫祖国的东南海疆。本县的军事史，是一部抗御外国侵略者入侵的斗争史。早在明代中叶，日本的商贾和日本国内战争中被逐的演兵败将及其他亡命之徒，和中国的海盗、土匪、恶霸等相勾结，不断入侵东南沿海，时称“倭患”，本县受害尤深。为了保卫祖国的安全，本县人民自觉地掀起抗倭斗争。清代和民国时期，本县人民也一直为捍卫祖国的安全而斗争。特别是抗日战争时期，本县人民在中国共产党的领导下，和日本侵略者展开顽强的战斗。抗日战争胜利后，为了反抗国民党的反动统治，本县人民再次拿起武器，一直战斗到解放。

1951年本县成立县人民武装部，受松江军分区和县委的双重领导。1952年改编为军队序列，称“中国人民解放军南汇县人民武装部”。1954年人民武装部撤销，设立南汇县兵役局。1959年下半年，南汇县兵役局改为中共南汇县委人民武装部，受上海警备区和中共南汇县委的双重领导。1961年下半年，为加强党的领导，人民武装部首次成立党的委员会，由县委书记兼任党委书记。1963年，各人民公社、镇设立基层武装部，原社、镇党委的武装委员改称武装部长。1980年本县人民武装部被评为中国人民解放军南京军区先进人民武装部。1984年、1985年连续两年被评为上海警备区先进人民武装部。

解放以后，作为海防前沿的南汇，中国人民解放军的三军都在县境内设有驻军，守卫着祖国的东南沿海，驻军在担任国防任务的同时，还积极参加驻地的社会主义建设，为南汇的两个文明建设作出了重大的贡献。