Dia mencetak 47 gol dalam 108 penampilan untuk Jerman dan memenangkan Piala Dunia bersama mereka pada tahun 1990.
Pada tahun 2004, Klinsmann menggantikan mantan rekannya Rudi Voeller sebagai pelatih tim nasional Jerman, posisi pertamanya dalam manajemen.
Dia memimpin Jerman ke tempat ketiga di Piala Dunia 2006 di kandang sendiri, sebelum mengambil alih Bayern dan kemudian Amerika Serikat.
Klinsmann memimpin tim AS ke Piala Dunia 2014, di mana mereka kalah 1-0 melawan pemenang akhirnya Jerman, tim yang menyertakan beberapa pemain yang pernah dia latih pada tahun 2006.
Setelah dipecat sebagai pelatih AS pada 2016, ia sebagian besar menghindari posisi kepelatihan teratas.
Selain tugas singkat selama sepuluh minggu sebagai pelatih tim Bundesliga Hertha Berlin pada musim 2019-20.
Klinsmann tetap populer di Jerman. Dia sering muncul di media sepak bola Jerman dan sering disebut-sebut sebagai pengganti potensial.
Klinsmann menimbulkan kontroversi yang jarang terjadi di Piala Dunia 2022 ketika dia menyebut taktik "kotor" Iran adalah "hanya bagian dari budaya mereka".
Dia kemudian meminta maaf dan berjanji untuk menghubungi langsung pelatih Iran Carlos Quieroz.