Pesantren itu berdiri di Sukoharjo Jawa Tengah dan diberi nama Al Mukmin.
Ia mendirikannya bersama Abdullah Sungkar dan beberapa orang lainnya.
Pada zaman orde baru, Baasyir sempat diburu akibat dituding memberikan hasutan.
Ia disebut menghasut orang-orang untuk menolak asas tunggal Pancasila.
Baca juga: Tak Ada Penyambutan Khusus di Ponpes Al Mukmin Ngruki Sukoharjo di Hari Pembebasan Abu Bakar Baasyir
Tak hanya Abu Bakar Baasyir, tudingan itu pun dilayangkan pula pada Abdullah Sungkar.
Keduanya disebut melarang para santri di pesantren mereka untuk menghormat bendera.
Larangan menghormat pada bendera tersebut muncul karena perbuatan itu dianggap mencerminkan kesyirikan.
Selain itu, Abu Bakar Ba'asyir pun disebut sebagai bagian dari gerakan Haji Ismail Pranoto (Hispran).
Gerakan Hispran ini dikendalikan seorang tokoh Darul Islam.
Akibat berbagai tudingan itu, Abu Bakar Baasyir dan Abdullah Sungkar akhirnya ditangkap.
Keduanya divonis sembilan tahun penjara, pada 1983.
Dua tahun kemudian, mereka malah melarikan diri ke Malaysia.
Kala itu, kasus Abu Bakar Baasyir dan Abdullah Sungkar masuk kasasi sehingga mereka menjadi tahanan rumah.
Dari situlah keduanya melancarkan pelarian dari Solo ke Malaysia.