Merintis karirnya sebagai calon hakim di Pengadilan Negeri Banda Aceh pada 1981.
Hakim Agung Muhammad Syarifuddin terpilih sebagai Ketua Mahkamah Agung periode 2020-2025, setelah melalui dua putaran. Dia mendapatkan 32 dari 47 total suara hakim yang memiliki hak pilih.
Sejak 2016 Muhammad Syarifuddin menjabat sebagai Wakil Ketua Mahkamah Agung bidang Yudisial. Pria kelahiran Baturaja, 17 Oktober 1954 ini, merintis karirnya sebagai calon hakim di Pengadilan Negeri Banda Aceh pada 1981. Setelahnya, ditempatkan sebagai "pengadil" dia PN Kutacane, Kabupaten Aceh Tenggara sejak 1984.
Setelah tujuh tahun di PN Kutacane, Syarifuddin dimutasi ke PN Lubuklinggau, Sumatera Selatan sampai 1995. Karirnya sebagai hakim menanjak, hal itu terlihat saat dia dilantik sebagai Wakil Ketua PN Muara Bulian, Jambi.
Tidak berhenti di situ, Syarifuddin kemudian diangkat menjadi Ketua PN Padang Pariaman dan "pulang kampung" karena pada 1999 ditunjuk sebagai Ketua PN Baturaja. Karirnya yang bagus, kemudian membuatnya diboyong sebagai hakim di PN Jakarta Selatan.
Hanya dua tahun, sesudahnya pada 2005-2006, Syarifuddin menjabat sebagai Wakil Ketua PN Bandung dan menjadi Ketua pengadilan tersebut sejak 2006. Karirnya terus menanjak setelah dia diangkat sebagai hakim tinggi Pengadilan Tinggi Palembang, yang selanjutnya sebagai Kepala Badan Pengawas MA selama enam tahun.