上海开埠后，黄浦江西岸逐步修建岸堤、码头、客栈，沿江道路亦随之出现，俗称“外滩”；沿江的南北向主通道被称作黄浦路、扬子路、黄浦滩路等，后改名为中山东一路。优越的地理位置吸引了众多银行、保险、运输等公司在此建造大楼或租用。

垂直于浦江的东西向道路则将交通的优势辐射向了更纵深的内部土地，其中 “二马路”九江路在十九世纪后叶至二十世纪初，先后开设了多家银行，被誉为“银行街”。二者交汇之处可谓“黄金路口”，先后由多家洋行租用转手。

台湾银行于1899年成立，其后于1911年在上海设立分行。约1913年，该银行入驻黄浦滩路16号（后为中山东一路16号）开始营业。随着业务规模的持续扩大，银行方面决定在原址新建办公大楼。

外华内秀，洋行合作精设计

新建的台湾银行办公大楼由当时上海知名的德和洋行与慎昌洋行联合设计。大楼设计为地下一层、地上四层的钢筋混凝土结构建筑，建筑风格为简化的神庙式样；面向外滩的东立面对应神庙的开放门廊，有贯通2层的4根复合式圆形巨柱和相应的复合式方形壁柱，主入口位于中央；二、 三层上部饰简洁的挑檐线脚，顶部山花在此弱化为阁楼形式。

九江路立面延续了正立面柱式的使用，考虑到用地的局限，不再采用希腊神庙柱廊的做法，均为壁柱。两个沿街立面均采用进口花岗岩饰面打造，入口的台阶及门窗框采用大理石。西立面及北立面作为非沿街的次要立面，采用水刷石饰面，设计较为简洁。

大楼内部布局合理，装饰精美，并配置了当时先进的设施设备，《北华捷报》曾有比较详细的报道，“大楼由半地下室、主银行大厅和上部楼层组成；顶楼为银行员工提供生活区和娱乐室；半地下室有厚钢板和非常坚固的莫斯勒门，加热设备的锅炉房和冷却设备的机器也位于该半地下室，主要的大厅约有120英尺*50英尺，25英尺高；大厅的北侧有一个夹层，供银行职员、经理的私人办公室和卫生间使用；墙壁和柱饰为意大利大理石，夹层的开放式栏杆用的是白色雕塑大理石，柜台的格栅则是铜制的”。