1962年7月，始建上海市畜牧兽医站，由市农业局畜牧处代管。1966年“文化大革命”开始后，被迫停止工作。1972年6月，恢复工作并属农业技术服务站下设的畜牧兽医组，对外为独立站。1973年农业技术服务站撤销后划归多种经营组代管。1975年2月重新恢复。1984年7月新建上海市兽药监察所，1985年市编委正式批准，定名为兽药饲料监察所，与畜牧兽医站实行两块牌子、一套机构。1991年10月，因市政府决定单独成立市畜牧局，该站同畜牧处一起随之划出。

市郊各县在50年代先后建立畜牧兽医站，“文化大革命”期间一度停顿工作，70年代前期恢复。各县畜牧兽医站分别隶属县畜牧业行政主管部门。

此外，1971年，原为临时机构的上海农业展览馆，正式立编建制。1972年，建立上海市水文站。这两个单位当时都隶属市农业局。1979年3月，农展馆直属市农委领导。1977年10月市水文站归新建的上海市农田基本建设指挥部领导。