Di Golkar, ia menduduki beberapa jabatan penting, seperti menjadi Ketua DPP Partai Golkar Bidang Hubungan Luar & Pertahanan Keamanan Korwil Jawa Barat dan Banten pada 2004.

Kemudian menjadi Ketua DPP Partai Golkar Bidang Kesejahteraan Rakyat dan menjadi Ketua DPP Partai Golkar Bidang Pertahanan dan Keamanan.

Karier politiknya di Partai Golkar terus menanjak, hasil Munas Partai Golkar di Jakarta menempatkan Agus pada jabatan Wakil Ketua Umum DPP Partai Golkar.

Ia juga terpilih menjadi anggota MPR dan DPR selama beberapa periode.

Agus bahkan pernah mengemban jabatan Wakil Ketua Komisi I DPR RI, Ketua Pansus RUU Kamnas dan Ketua Panja (RUU Perjanjian Internasional, dan RUU Intelijen Negara).

Puncak kariernya adalah saat ditunjuk menjadi Menteri Sosial oleh Presiden Joko Widodo (Jokowi) pada masa kepemimpinan periode I, yakni pada 2018–2019.

Kemudian, di periode kedua, Jokowi kembali menunjuk Agus sebagai Menteri Perindustrian pada 2019–2024.

• Riwayat di pemerintahan Menteri Sosial Kabinet Indonesia Kerja (2018–2019)
• Menteri Perindustrian Kabinet Indonesia Maju (2019–2024)
• Riwayat di legislatif Anggota MPR RI dari perwakilan pengusaha, Gabungan Pelaksana Konstruksi Nasional Indonesia (Gapensi) (1998–1999) 
• Anggota DPR RI (1999–2004) Anggota Komisi I DPR RI
• Anggota Badan Legislatif Anggota Pansus Trisakti dan Semanggi Sekretaris BKSAP Anggota DPR RI (2009–2014)
• Wakil Ketua Komisi I DPR RI Ketua Pansus RUU Kamnas Ketua Panja RUU Perjanjian Internasional Ketua panja RUU Intelijen Negara Anggota BKSAP DPR RI – Parlemen Jepang Anggota DPR/MPR RI (2014–2019) 
• Anggota Komisi XI DPR RI Anggota Komisi III DPR RI Anggota Komisi VII DPR RI Sekretaris Fraksi Golkar DPR RI (2017–2019).

Baca juga: Agus Gumiwang Ditunjuk Sebagai Plt Ketum: Saya Diberi Amanah Memimpin Golkar

Riwayat organisasi

• Wakil Sekjen DPP Angkatan Muda Pembaharuan Indonesia (AMPI) (1994–1999)
• Sekretaris Jenderal DPP Generasi Muda Ormas MKGR (1996–2001)
• Ketua Umum DPP AMPI (1999–2004) Wakil Ketua DPD Partai Golkar Jawa Barat (2004) Dewan Penasihat DPP AMPI (2004–2009)
• Ketua DPP Partai Golkar (Bidang Hublu & Hankam/2004–2009 Korwil Jawa Barat dan Banten)
• Sekretaris Dewan Pembina DPP Ormas MKGR (2005–2010)
• Anggota Dewan Penasihat Paguyuban Pasundan (2006–2010)
• Wakil Bendahara Pengurus Pusat Forum Komunikasi Putera-Puteri Purnawirawan Indonesia (FKPPI) (2006–2010)
• Dewan Pembina DPP Generasi Muda Ormas MKGR (2008–2010) Anggota Dewan Pertimbangan PP AM-MDI (2012–2017)
• Anggota Dewan Pertimbangan DPP MDI (2012–2017)
• Ketua DPP Partai Golkar Bidang Kesejahteraan Rakyat (2009–2011) 
• Ketua DPP Partai Golkar Bidang Pertahanan dan Keamanan (2011–2014)
• Wakil Ketua umum DPP Partai Golkar (Munas Jakarta) (2014–2016)
• Wakil Ketua Perhimpunan Persahabatan Indonesia-Jepang (2006–sekarang)
• Anggota Dewan Pengaping (Penasihat) Paguyuban Pasundan (2014–2018)
• Wakil Ketua Dewan Pertimbangan Ormas MKGR (2015–2020)
• Ketua DPP Partai Golkar Bidang Khusus (DPP Rekonsiliatif) (2016–2019)
• Ketua DPP Partai Golkar Bidang Pengabdian Masyarakat (2016–2019).

(Tribunnews.com/Gilang Putranto, Wahyu Aji)