Tahun 1999, dia pulang ke kampung halaman dan mendapatkan jabatan sebagai Ketua PN Baturaja.

Ternyata kariernya semakin menanjak dan masuk ke Ibukota Jakarta.

Dia diangkat sebagai hakim PN Jakarta Selatan. 

Dia kemudian dipromosikan sebagai Wakil Ketua PN Bandung periode 2005-2006 dan kemudian menjadi Ketua PN Bandung pada 2006.

Selepas itu, dia diangkat sebagai hakim tinggi pada Pengadilan Tinggi Palembang yang dilanjutkan dengan menjadi Kepala Badan Pengawasan (Bawas) MA selama 6 tahun. 

Saat menjadi Kepala Bawas MA, Syarifuddin juga sempat dipercaya menjadi Pelaksana Tugas Kepala Badan Litbang Diklat Kumdil MA. 

Jabatan Hakim Agung pun diemban Syafruddin setelah Komisi III DPR menetapkan namanya bersama tujuh orang lain di tahun 2013.

Baca: Tidak Semua 639 Jenazah yang Dimakamkan dengan Protap Covid-19 di Jakarta Positif Virus Corona

Dia dilantik pada tahun yang sama oleh Ketua MA saat itu. 

Kemudian pada 2015, Syarifuddin diangkat sebagai Ketua Kamar Pengawasan MA, sebelum akhirnya pada 2016 dia menjabat sebagai Wakil Ketua MA Bidang Yudisial.