一九二四年張巴拿巴分裂，北方總會轉到天津。南方則於一九二六年在南京虎距關一號租房建立總本部。一九二七年十月二十日遷上海華德路（今長陽路）壽品里二四五號。一九二八年移至寶山路八五零號及對面橫濱路口八二零號。在這里召開了七大及南北合一的代表大會。
一九三二年，日寇進攻上海，發生了一·二八事變，總部及印刷廠全都被炮火轟毀。鄧天啟足部受傷，羅喜全殉職。之后，總部遷到法租界辣菲德路（今淮海路）一二九六號。國內外各地真會紛紛支援，重建總會。在這里召開了八大。之后又遷往閘北柳營路童家宅，自建了中樞會所。在這里召開了九大、十大，也開過一次神學會。過了三年多，又被炮火擊毀。總部人員及眷屬就搬到高乃依路（今高安路），以后又遷到極司非而路（今萬航渡路）四十三號。一九三七年上海淪陷，仍在極司非而路，直到一九四四年總部內遷重慶。抗戰期間，張撒迦、蔣約翰、鄧天啟三位仍在極司非而路辦公。
一九三七年，日寇進攻上海，戰事再度爆發，總部已遷極司非而路，譚配得為總部看守閘北房屋，在日機大肆轟炸二十余天當中一直堅守。