自1927年国民政府定都南京以后，由于上海特殊的政治与地理位置，许多国家在南京设立驻华使馆的同时，在上海设立使馆驻沪办事处。这些办事处，有的独立设署办公，有的设在该国驻沪领事馆内。有些国家的驻华公使或大使甚至将使馆设在上海，或常滞上海。

最早将使馆设在上海的是古巴，1929年12月16日，古巴在上海设立公使馆。20世纪30年代，在上海设立公使馆或代办处的有瑞典、波兰、捷克、丹麦、智利、瑞士。公使常滞上海的有苏联、意大利、日本、比利时。在上海设立使馆驻沪办事处的有英国。

1945年第二次世界大战结束以后，在上海设立使馆或使馆办事处的有：瑞典大使馆，中山东二路9号；丹麦公使馆，中山东一路26号；巴拿马公使馆，圆明园路97号2楼；荷兰大使馆上海办事处，江西路汉弥尔大厦215号；加拿大大使馆驻沪办事处，中山东一路27号；澳大利亚大使馆驻沪办事处，中山东一路27号；美国大使馆驻沪办事处，中山东一路27号；阿根廷大使馆驻沪办事处，四川中路110号6楼；智利大使馆驻沪办事处，茂名南路Grosvenor大厦503号；捷克大使馆驻沪办事处，驻Verdum Terrace；多米尼加公使馆驻沪办事处，武夷路147号；意大利大使馆驻沪办事处，成都路369号；希腊大使馆驻沪办事处，中山东二路9号。