Kemudian Pemerintah Hindia Belanda mengeluarkan aturan otonomi yang diatur dalam Bestuurshervormingswet tahun 1922 (Undang-Undang Pembaharuan Pemerintahan ). Berdasarkan aturan ini di Jawa dan Madura dibentuk (1) Provincie-ordonantie; (2) Regentscahps ordonantie ; (3) Staatsgemeente-ordonantie. Berdasarkan ordonansi tersebut di Jawa dibentuk tiga Propinsi, 70 Kabupaten, dan 17- Staadsgemeenten ( tahun 1928 ) (Suwarno : 34 ).
Pada masa pendudukan Jepang struktur pemerintahan seperti pada zaman kolonial Belanda dalam bidang dekonsentrasi tidak diubah, hanya diganti nama-namanya menjadi dalam bahasa Jepang. Jabatan Gubernur dan Asisten Residen di Jawa dihapuskan. Kotapraja-kotapraja dilepaskan dari lingkungan adminintrasi para bupati, sedang para walikota menjadi petugas-petugas pangreh praja yang tunduk kepada residen.
Setelah Proklamasi Kemerdekaan RI, pada akhir tahun 1947 Belanda menduduki kembali Indonesia. Selama pendudukan Belanda, yang menja1ani kekuasaan militer maupun pemerintahan berganti-ganti, seperti Hoofd Tijdelijke Bestuurdienst ( HTB ), Rererings Commisasaris voor Bestuurs aangelegenheden ( Recomba ) dan seterusnya.
Untuk usaha konsolidasi lebih lanjut di pemerintahan daerah ditempuh dua jalan yaitu : 1. Dibentuknya Voorlopige Federale Regering voor lndonesie ( Pemerintah Federal Sementara untuk Indonesia ). 2. Memulihkan kembali badan-badan otonomi kabupaten ( Regenschap ) dengan haminte ( gemente ) di daerah yang sudah aman, misalnya di kapupaten-kabupaten di daerah Negara Jawa Timur ” ( Koesoemahatmadja : 31-32 ).
Pembentukan negara federal tidak berhasil banyak walaupun kemudian pada tahun 1948 Belanda berhasil membentuk Negara Madura. Berdasarkan surat dari Residen Recomba Madura kepada Gubemur Jenderal Hindia Belanda tentang Komite Penentuan Kedudukan Madura di Pamekasan menjelaskan bahwa atas desakan berbagai golongan rakyat, maka pada tanggal 14 Januari 1948 di Pendopo Kabupaten Bangkalan berkumpul beberapa orang terkemuka Madura. Dari basil perundingan itu terbentuk sebuah Komite Sementara Penentuan Kedudukan Madura yang terdiri dari 3 orang wakil dari Pamekasan, 3 orang wakil dari Sumenep, 2 orang wakil dari Sampang dan 3 orang wakil dari Bangkalan, disetujui untuk duduk sebagai penasehat Raden Adipati Ario Tjakraningrat yaitu Residen Gedelegeerde Recomba Madura. Komite sementara ini diberi kewajiban untuk merundingkan ditiap-tiap daerahnya masing-masing dengan pemuka masyarakat guna dapat menyusun komite tetap dengan cara yang demokratis. Selanjutnya pada tanggal 16 Januari 1948 bertempat dikediaman Bupati Pamekasan terbentuk sebuah Komite enentuan Kedudukan Madura yang tersusun sebagaimana komite sementara, yang terdiri dari utusan rakyat diseluruh Karesidenan Madura. (Arsip kementrian Penerangan No. 99).
Pembentukan Negara Madura juga diilhami oleh Pembentukan Negara Jawa Timur yaitu verslag dari Rapat Komite Persiapan Kedudukan Jawa Timur yang diadakan di Gedung Nasional Indonesia ( bubutan ) Surabaya pada 25 Januari 1948 yang menyatakan bahwa rakyat Jawa Timur mengetahui tentang adanya gerakan separatisme yang berupa Partai Rakyat Jawa Timur, selain partai tersebut berdiri pula PKM ( Partai Kebangsaan Madura ). Partai ini mendapat sambutan dari kalangan Rakyat Madura dan mendirikan cabang dibeberapa kota di Jawa Timur. ( Arsip