Dibantu keponakannya, Kiai Khazin yang bertindak sebagai pimpinan pasukan, Kiai Abdullah Sajjad lebih berposisi sebagai pengatur taktik dan strategi pertempuran. Begitu Belanda terus berusaha masuk ke arah Sumenep, tentara Sabilillah dengan gencarnya melakukan perlawanan. Mengingat peralatan perang Belanda tidak sesederhanan yang dibayangkan, upaya pertahanan terus dilakukan. Hingga suatu ketika pertahanan tidak lagi mampu membentdung arus pasukan belanda, Kiai Khazin selaku pimpinan lapangan mengirim utusan ke Annuqayah, markas tentara sabilillah, agar pesantren Annuqayah dikosongkan. Sementara Kiai Mohammad Ilyas mengungsi di dusun Berca, daerah pedalaman Guluk-Guluk, Kiai Abdullah Sajjad mengungsi ke Karduluk, daerah sebelah timur Prenduan, dengan ditemani bebrapa santrinya.
Setelah empat bulan di pengungsian, datanglah sepucuk surat yang ditujukan kepada Kiai Abdullah Sajjad yang berisi pernyatan bahwa Guluk-Guluk aman terkendali dan Kiai Abdullah Sajjad dimohon untuk kembali ke Pesantren Annuqayah. Sebelum surat itu disampaikan kepada Kiai Abdullah Sajjad, pihak pimpinan pesantren Annuqayah yaitu Kiai Mohammad Ilyas dan Kiai Idris melakukan musyawarah dan akhirnya keduany apun menyetujui. Kiai Abdullah Sajjad pun kembali ke Pesantrren Annuqayah. Mendengar kedatangan Kiai Abdullah Sajjad, sontak saja masyarakat berkunjung ke pesantren untuk menemuinya. Sementara Kiai Abdullah Sajjad sedang ayik-asyiknya menemani para tamu di Mushallah sehabis beliau melaksanakan salat Maghrib, tiba-tiba sembilan serdadu Belanda datang dan menagkap beliau. Kiai Abdullah Sajjad pun dibawa ke lapangan Guluk-Guluk, dan disanalah beliau mengakhiri usianya akibat kekejaman dan kelicikan tentara penjajah. Beliau dibunuh di ujung kerakusan senapan penjajah. Peristiwa berkabung ini terjadi pada tahun 1947.
Meskipun Kiai Abdullah Sajjad telah wafat, namun semangat yang beliau hunjamkan di sanubari para pengikutnya terus bergelayut dan semangat untuk berjuang terus bergelora. Beberapa bulan kemudian, Kiai Khazin yang menjadi pimpinan pasukan Sabilillah yang sekaligus keponankan Kiai Abdullah Sajjad menyusul kepergian pamannya lantaran sakit setelah kembali dari pengungsian . Beliau mengungsi ke Pondok Pesantren Salafiyah Syafi’iyah Sukerejo, Asembagus Sitobondo. Pesantren ini oleh Belanda dinyatakan sebagai Heillige Zone (zonal suci) yang merupakan daerah terlarang terlarang bagi tentara Belanda. Artinya, tentara Belanda dilarang keras untuk memasuki kawasan tersebut walau untuk menangkap tokoh dan pejuang kemerdekaan sekalipun, sehingga pondok pesantren dijadikan sebagai penyembunyian dan sarang pelarian gerilyawan pasukan Indonesia.
