Semasa kecil, putra pasangan Ahmad Yusuf Cholil dan Sholichah Hasbullo ini menempuh pendidikan di Madrasah Ibtidaiyah Mambaul Ma'arif Denanyar Jombang. 

Setelah itu, Saifullah Yusuf melanjutkan pendidikannya di SMP Islam Pasuruan.

Hingga lulus SMA, Saifullah Yusuf berkuliah di Universitas Nasional, Fakultas Ilmu Sosial dan Ilmu Politik.

Saifullah Yusuf merupakan keponakan dari KH Abdurrahman Wahid (Gus Dur).

Ia memperdalam ilmu dari Gus Dur pada masa jabatan sebagai Ketua PBNU.

Awal karier politik Saifullah Yusuf diawali dengan bergabung di GP Ansor, organisasi sayap pemuda NU. 

Baca juga: Pertama Kali Dalam Sejarah Tokoh Perempuan Masuk Jajaran Pengurus PBNU

Pada tahun 1999, Saifullah Yusuf dipercaya untuk menggantikan posisi Ketua Umum karena pimpinan pada saat itu, Iqbal Assegaf wafat.

Selang setahun, Saifullah Yusuf menjadi Ketua Umum GP Ansor.

Saifullah Yusuf juga terpilih sebagai anggota DPR Fraksi PDI-P.

Namun, Saifullah Yusuf memutuskan untuk keluar dari DPR dan PDI-P kemudian pindah ke PKB pada tahun 2001.

Selang setahun, Saifullah Yusuf terpilih menjadi Sekretaris Jenderal PKB.

Saifullah Yusuf pernah menjabat sebagai Menteri Negara Pembangunan Daerah Tertinggal RI selama satu periode di masa pemerintahan Presiden Susilo Bambang Yudhoyono.

Baca juga: Gus Yahya Angkat 180 Pengurus PBNU, Wapres Maruf Amin hingga Khofifah Masuk Jajaran Pengurus

Namun, terdapat konflik internal hingga berujung pencopotan jabatan Saifullah Yusuf sebagai Sekjen PKB dan jabatannya sebagai menteri.

Saifullah Yusuf juga maju dalam pemilihan Gubernur dan Wakil Gubernur Jawa Timur mendampingi Soekarwo hingga akhirnya menjabat sebagai Wakil Gubernur Jawa Timur.