清咸丰十年(1860年)，美商旗昌洋行开凿了第一口自流井。关于地下水情况的报道则是在20世纪初才见于《中国工程师学会会刊》上。初期阶段所做工作较为局限，获取的资料较为零星，所采水量也很有限，但水质却很优良。民国11～25年(1922～1936年)，地下水开采量急剧增长。民国25～38年因战乱，地下水开采量大幅度减少。20世纪50年代，地下水开采量有所上升。

1958年，建工部水源勘察三队在上海曾进行水文地质勘察。1962年初，地质部水文地质工程地质第二大队开始了系统的水文地质勘察。1965年提交了《上海市区水文地质资料汇编》报告，最早划分出上海地区五个承压含水层和一个潜水层；认为第Ⅳ含水层是上海最有开发前景的含水层；两条古河道为嵊泗列岛、崎岖群岛、舟山群岛找水指出了方向；并第一次提出了上海的水文地质分区。

为了适应城市经济发展的需要，1961年上海市地质勘察局组建了长期观测站，并与控制城市地面沉降有机地结合起来。70年代，与城市环境保护同步进行，在水质保护，防止污染方面做了大量工作。80年代，组建上海市环境地质站。

地下水的开发历史已逾百年，其发展速度跟工农业生产密切相关，过量的抽采又会造成上海地面沉降，80年代以来，地下水包括矿泉水的开发在受城市地面沉降的监控下有计划地进行。