Dibebaskan pada 2008, setelah lima tahun dalam tahanan AS dan beberapa waktu dalam tahanan Irak, al-Julani kembali ke pemberontakan Irak.

Ia naik jabatan menjadi kepala operasi militer dalam Negara Islam Irak di bawah pimpinan Abu Bakr al-Baghdadi.

Pemberontakan Suriah tahun 2011 menghadirkan peluang baru.

Al-Julani mendekati al-Baghdadi untuk mendirikan cabang al-Qaeda di Suriah.

Pada 2012, ia telah meluncurkan Jabhat al-Nusra (Front Nusra), yang dengan cepat mendapatkan dukungan dan menarik banyak pejuang.

Namun, ketegangan dengan al-Baghdadi meningkat.

Ketika al-Baghdadi mencoba menggabungkan Jabhat al-Nusra ke dalam Negara Islam Irak dan Suriah (ISIS) pada April 2013, al-Julani dengan keras menentang penggabungan tersebut. Alasannya, perbedaan ideologi dan kepemimpinan.

Ia tetap setia kepada Ayman al-Zawahiri, pemimpin al-Qaeda saat itu.

Pada pertengahan tahun 2016, al-Julani memutuskan hubungan dengan al-Qaeda sepenuhnya, dan mengganti nama Jabhat al-Nusra menjadi Jabhat Fateh al-Sham (Garis Depan Penaklukan Suriah).

Hal ini menandai pergeseran yang jelas menuju konflik yang lebih lokal melawan rezim Assad, menjauh dari jihadisme internasional.

Evolusi ideologis al-Julani terlihat jelas dalam pernyataan publiknya.

Baca juga: Israel Bombardir Gudang Senjata Pasukan Suriah, Curi Kesempatan Caplok Wilayah Rezim Assad

Dalam wawancara dengan Al Jazeera tahun 2013, ia menjauhkan diri dari ideologi ekstremis, khususnya menolak takfir (menyatakan Muslim lain sebagai murtad), dan menegaskan bahwa hal ini harus diserahkan kepada ulama.

Ia juga menekankan bahwa fokus utama kelompoknya adalah memerangi pemerintah Suriah, bukan menargetkan negara-negara Barat atau warga sipil.

Wawancaranya pada 2021, semakin memperjelas perpisahannya dengan ISIS, dengan menyebutkan penentangannya terhadap taktik brutal dan salah urus ISIS dalam konflik Suriah.