Pada tanggal 15 April 1958, Perjanjian Perdamaian antara Jepang dan Republik Indonesia dan Perjanjian Kompensasi antara Jepang dan Republik Indonesia mulai berlaku dan Konsulat Jenderal Jakarta menjadi Kedutaan Besar Jepang di Indonesia.

Hal itu juga secara resiprokal dapat diartikan Indonesia membuka pula tahun 1958 Kedutaan besarnya di Tokyo.

Sejak saat itu hingga kini beberapa kali dilakukan renovasi KBRI bagian luarnya.

Namun secara total baru tahun depan akan dilakukan sehingga kantor mesti dipindahkan ke Yotsuya sementara mulai April 2021.

Gedung KBRI ada 7 lantai dan ada lantai bawah tanah satu lantai.

Renovasi gedung KBRI dilakukan sesuai rekomendasi Pemda Tokyo karena alasan keselamatan/ketahanan terhadap gempa bumi.