Pada tahun 1965, Sekretariat Bersama Top-top Organisasi Cabang Olahraga dibentuk pada tanggal 25 Desember, mengusulkan mengganti DORI menjadi Komite Olahraga Nasional Indonesia (KONI) yang mandiri dan bebas dari pengaruh politik.

Pada tahun 1966, Presiden Soekarno menerbitkan Keputusan Presiden Nomor 143 A dan 156 A Tahun 1966 tentang pembentukan KONI sebagai ganti DORI, tetapi tidak dapat berfungsi karena tidak didukung oleh induk organisasi olahraga berkenaan situasi politik saat itu.

Presiden Soeharto membubarkan Depora dan membentuk Direktorat Jendral Olahraga dibawah Kementerian Pendidikan dan Kebudayaan. Induk organisasi olahraga membentuk KONI pada 31 Desember dengan Ketua Umum Sri Sultan Hamengkubuwono IX.

Pada tahun 1967, Presiden Soeharto mengukuhkan KONI dengan Keputusan Presiden Nomor 57 Tahun 1967. Sri Paku Alam VIII mengundurkan diri sebagai Ketua KOI. Jabatan Ketua KOI kemudian dirangkap oleh Ketua Umum KONI Sri Sultan Hamengkubuwono IX, dengan Sekretaris Jenderal (Sekjen) KONI M.F. Siregar dan Sekretaris KOI Soeworo.

Soeworo meninggal, jabatan Sekretaris KOI dirangkap oleh Sekjen KONI M.F. Siregar. Sejak itu dalam AD/ART KONI yang disepakati dalam Musyawarah Olahraga Nasional (Musornas), KONI ibarat sekeping mata uang dua sisi yang ke dalam menjalankan tugasnya sebagai KONI dan ke luar berstatus sebagai KOI. IOC kemudian mengakui KONI sebagai NOC Indonesia.

Pada tahun 2005, pemerintah dan DPR menerbitkan Undang-Undang Nomor 3 Tahun 2005 Tentang Sistem Keolahragaan Nasional dan memecah KONI menjadi KON dan KOI.

Dan, pemerintah juga menerbitkan Peraturan Pemerintah Nomor 16, 17, dan 18 Tahun 2007 sebagai peraturan pelaksanaan UU No. 3 Tahun 2005.

KONI menyelenggarakan Musornas Luar Biasa (Musornaslub) pada 30 Juli yang membentuk Komite Olimpiade Indonesia (KOI) dan menyerahkan fungsi sebagai NOC Indonesia dari KONI kepada KOI kembali.

Nama KONI tetap dipertahankan dan tidak diubah menjadi KON.