清同治四年（1865年），境内外滩滨江大道栽种了上海第一批行道树；同治七年，外滩建造了上海最早的公园——公共花园（现名黄浦公园）。清光绪十年（1884年），英国领事馆（今中山东一路33号）辟建第一块较大面积的绿地，嗣后，跑马厅、长江公寓、贝家花园等有少量庭园绿地，永安、先施、新新、大新四大公司造了屋顶花园。

民国时期，区境园林绿化较租界时期逊色。

解放后，市、区人民政府重视园林绿化建设。1952年，浦西跑马厅的北半部辟建人民公园；1957年，兴建综合性浦东公园。

境内专用绿地，至1957年，发展到20.09万平方米，为解放前2.26万平方米的8.89倍。“文化大革命”时期，绿化遭到破坏。

80年代，区绿化工作迅速发展。1987年及1989年先后在浦东境地建成梅园公园及泾东公园。全区公园5座用地26.53万平方米（含苗圃3座）。1992年底，全区共有行道树1.19万株。街道绿地138处，面积14.88万平方米，是1981年的1.81倍。专用绿地80.21万平方米，是1981年的3.5倍。从1987年起，在上海居住区绿化竞赛中，黄浦区连续6年荣获第一名。