Setelah lulus dari Akbari pada 1985, Edy Rahmayadi kemudian menjadi komandan pleton di jajaran Kopasus TNI AD.

Edy Rahmayadi lalu dipercaya bertugas di satuan Kostrad mulai 1985 hingga 1993.

Ia juga pernah menjabat sebagai Dankipan B Yonif 323 Kostrad dan Komandan Batalyon Infanteri Lintas Udara 100 Bukit Barisan.

Pada 2014, Edy Rahmayadi kembali ditugaskan di Kostrad sebagai Panglima Divisi Infanteri Kostrad.

Sebelum itu, Edy Rahmayadi pernah ditugaskan sebagai Komandan Kodim di Batam, Komandan Resimen Taruna Akademi Militer pada 2010, Komandan Korem di Kodam Cendrawasih Papua (2012), dan Lembaga Ketahanan Nasional (Lemhanas) RI pada 2013. 

Pada 2015, Edy Rahmayadi ditunjuk sebagai Panglima Kostrad.

Setahun kemudian, 2016, Edy Rahmayadi terpilih sebagai Ketua Umum Persatuan Sepak Bola Seluruh Indonesia (PSSI) ke-16 masa jabatan 2016-2020.

Edy Rahmayadi sempat mengajukan cuti dari jabatannya sebagai Ketua Umum PSSI pada 16 Februari hingga 30 Juni 2018 untuk mengikuti pilkada.

Belum selesai masa jabatannya sebagai Ketua Umum PSSI, Edy Rahmayadi memutuskan untuk mundur. 

Sebelum mengundurkan diri dari Ketum PSSI, Edy Rahmayadi merangkap jabatan sebagai Gubernur Sumatra Utara dan Ketua Dewan Pembina PSMS Medan.

Ia diketahui menjabat sebagai Gubernur Sumatra Utara sejak 5 September 2018.

Baca juga: Golkar Berang Edy Rahmayadi Mengaku Lupa Wagub Sumut Musa Rajekshah Saat Paripurna: Itu Aneh

Polemik dengan Wagub Sumut

Sebelumnya, Edy Rahmayadi disebut melemparkan guyonan dalam rapat paripurna bersama DPRD Sumut, Rabu (16/8/2023). 

Dalam rapat itu, Edy Rahmayadi mengaku lupa menyebut nama Wakilnya, Musa Rajekshah atau Ijeck, saat berpidato.

Sekretaris Golkar Sumut, Datok Ilhamsyah, menilai apa yang disampaikan Edy Rahmayadi adalah sesuatu yang luar biasa dan aneh.