抗日战争时期，为了抗日保家乡，在中共地下党的领导下，在县境建立人民抗日自卫队后备队，这是本县最早的民兵组织。解放初期，为维护地方治安，保卫人民胜利果实，巩固人民政权，全县开始建立民兵组织。根据1951年5月16日中共中央军委发出《关于加强民兵建设的指示》，本县经过宣传和发动，积极而慎重地发展民兵，区成立民兵大队，乡成立民兵中队，村有民兵小队。至11月全县已发展民兵万人以上。以后逐年有所发展，1959年全县民兵为10.45万人，开始以团、营、连、排的序列编组。1981年根据中共中央《关于调整民兵组织问题的指示》，民兵组织进行了调整，全县民兵总数为5.04万人。1985年全县民兵为51960人，其中基干民兵12108人、普通民兵39852人。