上海具有良好的水运条件，一日不可废舟楫之用。唐、宋年间，上海先后形成华亭镇港、青龙镇港、上海镇港等诸多港埠。特别是入宋后，河船番舶涌入华亭，鳞次栉比。为对船舶实施管理，北宋政和三年(1113年)，在华亭镇设置了兼管水运的第一个管理机构——市舶务。南宋绍兴二年(1132年)，两浙路市舶司移驻华亭县。元、明两代改称为市舶提举司。至清，不设市舶机构，改设河泊所(理船厅)。历代市舶(河泊)机构，均代表政府掌管检船、验货、征收关税，特种货物的专卖和非专卖货物抽去一部分后准入民间市场购买及为船主、商贾出具公凭等事宜。航道整治管理，历代沿袭地方官府直接主事的定律。但对“水脚”(运价)则由船、货双方议定，或由牙行、会馆、公会等调停。清嘉庆八年(1803年)，上海县衙勒石立碑，颁发县令，对船舶装卸糖、海菜、棉花、杂物等规定上岸、落驳的费率。清道光二十三年(1843年)上海开埠后，租界内的航运管理由租界市政管理机构摄理，华界则由英国人主持的清朝地方政府机构理船厅管理。

辛亥革命后，上海市政厅曾设立市舶课，管理民船，但于民国2年(1913年)即被撤销。民国16年5月上海特别市成立后，市政府设立港务局、公用局等主管局，分别职司航政、船舶、水运、码头和装卸管理。民国20年7月，上海航政局成立，替代港务局实施航政、船舶、船员管理。民国26年日军侵华战争爆发。上海沦陷后，行业管理由日军控制。抗日战争胜利后至上海解放前夕，上海市政府沿袭旧制，实施管理。

1949年5月27日上海解放，逐步建立新的管理体制机构，内河航运始由人民政权管理。1950年起，华东区航务管理局(后改为上海区港务管理局)、华东交通部内河航运管理局分别执掌航务、航政和运输、装卸行业管理。1955年4月，成立上海市内河航运管理局，统管上海市内河航运业。1956年5月，上海市内河航运管理局更名为上海市交通运输局，是为上海市公路交通和内河航运行业的行政主管机关。1958年底，上海市郊10县由江苏省划归上海市管辖。1960年3月，上海市交通运输局改称上海市第一交通运输局，新建上海市第二交通运输局(简称交通一局、交通二局)。市交通二局主管内河航务、运输、装卸以及市郊11县(包括浦东县)的水陆运输行业，并于同年7月11日启用印章，正式对外办公。1962年6月，市交通一局、二局合并，仍称上海市交通运输局。自此，上海内河航运业行政主管体制基本未变。

20世纪80年代，实行改革、开放政策，实施多种经济成份、多种经营方式发展内河航运行业的新方针，全民、集体、个体联户一起上，行业规模迅速扩大。上海市交通运输局及其下属航运、航务专管机构加大管理力度，制订颁发地方法规、规章，实行水路运输、服务、装卸企业的开业资格审查，核发经营许可证，使用水路运输、服务，装卸统一票据，统一内河客、货运输运价和装卸费率，监督水路运输、服务和装卸企业的经营行为，将内河航运业全部纳入行业管理范围。同时，上述管理部门加强港航监督、航道管理、船舶检验、船员培训、考试、发证等行政管理职能，统一规费征收标准，航政、航务管理趋于完善。

1990年末，上海市内河航运业的行政主管机关为上海市交通运输局，行业专管机构为上海市航务管理处。市交通运输局的上级领导部门为市人民政府交通办公室。市效9县1区的行政主管机关为县、区交通局，专管机构为县、区航务管理所。县、区航务管理所受市航务管理处和县区交通局双重领导，分别实施辖区内航务、航政和行业管理职能。