清同治七年(1868年)英美租界公共花园(今黄浦公园)建成时，租界工部局颁布了《公共花园规则》。这份规则的内容是规范游人的行为，属游园守则，但它以租界当局的名义颁布，就具有法规的效力。以后两处租界每建成一个公园，租界当局就相应颁布该公园的规则。对于保护绿化，法租界公董局在19世纪80年代就制订出砍伐、迁移公共树木须经批准并作赔偿的规定，后来又规定公共树木只能申请迁移，不得砍伐。民国11年(1922年)，公董局修订赔偿标准，规定迁移胸径7.5厘米以下的公共树木，每株按不同规格分别赔偿规银3～15两。民国16年上海建立特别市后，市政府有关部门也制订出各公园的规则及迁移行道树的赔偿办法。抗日战争胜利后，市工务局于民国35年拟订的《公园管理通则》，经市政府批准后公布。这是上海市第一件适用于所有公园的规章，但其内容仍然是游园守则。次年，市工务局又颁布了《行道树管理规则》。解放前颁布的各项规章，仅限于管理公园游人和行道树，园林绿化管理的其他方面都未涉及。

解放后，市人民政府陆续颁布一些园林绿化规章。1951年5月经市人民政府批准，市工务局颁布《上海市管理行道树暂行办法》。1958年2月市人民委员会通过的《上海市树木绿地保护管理办法》，第一次对绿化管理范围、管理办法、奖励与惩罚等作出较为全面的规定。1963年1月经市人民委员会批准，市园林管理处颁布《上海市行道树种植、养护管理办法》和《上海市郊区林木管理暂行办法》。以上规章及其他有关规范性文件的内容虽然不够完善，但已经大体上覆盖了园林绿化管理的各个方面，为园林部门依法管理提供了依据。“文化大革命”期间，这些规章都被视为错误路线的产物而被否定，致使毁坏绿化、侵占绿地的事件急剧增加。

80年代初，市人民代表大会常务委员会加强了园林绿化的地方立法工作。1983年9月12日市八届人大常委会第四次会议通过的《上海市古树名木保护管理规定》，明确规定了古树名木的保护范围、保护等级、保护办法、管理经费、管理机构和奖惩办法。同年，由市绿化委员会与园林、农业部门共同拟订的《上海市植树造林绿化管理暂行办法》经市政府批准颁布施行。该办法经过三年试行并作了修订之后，于1987年1月8日经市八届人大常委会第25次会议通过，定名为《上海市植树造林绿化管理条例》。条例以法规的形式，规范了上海市的园林绿化管理体制、规划与建设、绿化指标的制订与分解、资金来源和奖惩办法。在条例颁布施行之后，市人大常委会又于1991年、1995年、1997年三次对其中的部分条文作了修改，使之更臻完善。1994年7月22日，市十届人大常委会第11次会议通过了《上海市公园管理条例》，从法律上肯定了公园的公益性质，对公园的规划、建设、保护、管理以及游人的行为作了明确的规范。至此，上海市有关园林绿化管理的地方性法规已经基本上齐备。为了使上述法规中的某些条款便于施行，有关部门又拟订了一些具体实施办法。根据《上海市植树造林绿化管理条例》中“对既不能在本单位范围内完成义务植树任务，又不承担社会绿化任务的，应由本地区绿化委员会按规定收缴义务植树绿化费”的规定，市绿化委员会拟订了《上海市义务植树绿化费征收办法》和《上海市征收义务植树绿化费使用管理办法的规定》。《上海市植树造林绿化管理条例》还规定：一切建设项目都应按比例规划绿地面积，并缴纳绿化建设保证金；占用已建成的绿地、林地，须经市政府批准并补偿相应的土地和建设费用。据此，市园林局会同市农业局、财政局、物价局拟订出《关于收缴绿化建设保证金实施办法》、《关于收缴绿地补偿费实施办法》。以上几项实施办法经市政府批准后颁布施行。

随着地方立法工作的进展，市、区、县园林部门依法管理园林绿化的力度逐步加大。1983年市政府颁布《上海市植树造林绿化管理暂行办法》后的第二年，全市因违犯绿化法规而被处理的共348人次。此后每年为此而被处理的单位和个人少则数十，多则数百。其中突出的有：占用长宁区儿童交通公园2880平方米（其中绿地与房屋、道路分别为1285和1595平方米）建商业用房，被责令恢复绿地原貌，并罚款3.8万多元；占用闸北公园9714平方米（其中绿地与房屋、道路分别为5539与4175平方米)建商业用房，被责令采取其他措施以保证原有绿地面积不减少，并罚款83万余元。但是，由于园林绿化分属各级人民政府的多个部门管理，有些部门基于本地区、本部门的利益，越权批准毁绿、占绿的事仍屡有发生。作为园林绿化法规执法主体的市园林管理局，因编制人员有限，许多毁绿、占绿事件都是在既成事实之后才发现，并且事后仍然要依靠各级政府及有关部门处理，以致影响执法的力度。为改变这种状况，市人大常委、市政府已经加强这方面的督促检查工作，并大力支持市园林局依法治绿。经市政府同意，市园林局于1995年着手筹建一支约300人的园林绿化执法队伍，以便及时发现和处理问题。