Dalam bidang pemerintahan, Jawa dan Madura dikelola oleh angkatan darat Jepang. Untuk itu maka wilayah provinsi dihapus tetapi keresidenan yang dipimpin seorang syuchokan dipertahankan. Syuchokan Jepang berwenang memerintah seperti gubernur dan ia selalu didampingi seorang wakil pribumi. Sebagai wakil syuchokan untuk Madura ditunjuk Raden Adipati Aria Cakraningrat yang sebelum perang menjadi bupati Bangkalan. Para bupati yang diangkat Belanda dibiarkan terus menduduki jabatannya bila mereka bersedia berkooperasi. Sebaliknya Bupati Pamekasan Raden Tumenggung Aria AbduI Aziz yang banyak menentang kebijakan pemerintah militer Jepang dibunuh dengan kejam. Setelah beberapa bulan maka pernerintah militer Jepang herbasil memapankan genggamannya atas Madura dari bagian lain Indonesia. Sejak itu semua kegiatan kehidupan rakyat dikerahkan untuk menunjang upaya kemenangan perang Jepang yang katanya demi kemakmuran Asia Timur Raya.
Berbeda dengan Belanda yang sangat anti gerakan berbau politik, pemerintahan militer Jepang justru mengelola wilayah Indonesia dengan landasan yang bergaya politik. Karena itu dilakukan penggalangan organisasi massa, indoktrinasi ideologi serta upacara yang menggelora namun diawasi dengan ketat. Di lain pihak organisasi sosial politik yang ada di zaman perjahan Belanda dilarang melakukan kegiatan termasuk mengadakan rapat- rapat. Kaum ulama didekati dengan mula-mula diperkenankan menghidupkan lagi Majelis Islam Ala Indonesia (MIAI). Tetapi karena terlalu bersikap kurang kooperatif kemudian ditata kembali dan diuhah namanya menjadi Majelis Syuro Muslimin Indonesia (Masyurni). Tradisi baru ditanamkan pada para pelajar sekolah dan semua pegawai Indonesia, antara lain kewajiban untuk melakukan senam kesegaran jasmani yang disehut taiso. Diskriminasi sekolah dihapus sehingga hanya dikenal satu macam sekolah pendidikan dasar. Untuk itu kursus bahasa Jepang digalakkan hagi para guru sekolah secara nasional.
Dalam upaya rnengerahkan tenaga masyarakat untuk membantu usaba perangnya pemerintah penjajah Jepang mendirikan organisasi para militer. Yang terpenting adalah Seinendan (barisan pemuda berusia – 25 tahun), Keihodan ( badan pembantu polisi untuk pria berumur 23 – 35 tahun) dan Fujinkal (perkurnpulan wanita berusia di atas 15 tahun). Kesemuanya diajar baris-berhari serta wajib mengikuti latihan perang-perangan bersenjatakan bambu runcing atau senapan kayu. Pengorganisasian massa secara besar-besaran ini terjadi di seluruh pelosok pedesaan Madura. Pelaksanaanya diperluas dan merata karena dilakukan lewat pembentukan tonarigumi atau rukun tetangga. Adanya organisasi RT dan RW dalam membantu pengelolaan pemerintahan desa yang berlaku sekarang di Indonesia memang dapat ditelusuri akar sejarahnya ke zarnan pendudukan Jepang itu.
Setelah beberapa bulan berperang, Jepang mulai menderita kekalahan dalam beberapa pertempuran di Pasifik Selatan. Karena itu mereka menginginkan bantuan yang Iehih nyata dari Indonesia dalam upaya memenangkan perangnya. Mereka lalu membentuk tentara setempat untuk mempertahankan an wilayah tanah air tumpah darahnya sendiri. Untuk itu direkrutnya pemuda menjadi Heiho dalam dinas ketentaraan. Sebagai pembantu prajurit Jepang, tugas mereka mula-mula adalah menangani pekerjaan kasar militer tetapi kemudian barisan ini dipersenjatai juga selengkapnya.