Di Mesir, dia belajar di Perguruan Tinggi Al-Azhar pada Syaikh Ahmad Maskawih. Suasana Mesir pada saat itu sedang gencar-gencarnya membangun dan menumbuhkan semangat kebangkitan nasionalisme dan pembaharuan. Banyak tokoh memupuk semangat rakyat Mesir, baik melalui media massa maupun pidato. Mas Mansoer juga memanfaatkan kondisi ini dengan membaca tulisan-tulisan yang tersebar di media massa dan mendengarkan pidato-pidatonya. Ia berada di Mesir selama kurang lebih dua tahun. Sebelum pulang ke tanah air, terlebih dulu dia singgah dulu di Makkah selama satu tahun, dan pada tahun 1915 dia pulang ke Indonesia.
Menikah
Sepulang dari belajar di Mesir dan Makkah, ia menikah dengan puteri Haji Arif yaitu Siti Zakijah yang tinggalnya tidak jauh dari rumahnya. Dari hasil pernikahannya itu, mereka dikaruniai enam orang anak, yaitu Nafiah, Ainoerrafiq, Aminah, Mohammad Noeh, Ibrahim dan Loek-loek. Di samping menikah dengan Siti Zakijah, dia juga menikah dengan Halimah. Dia menjalani hidup dengan istri kedua ini tidak berlangsung lama, hanya dua tahun, karena pada tahun 1939 Halimah meninggal dunia.
Bergabung dengan Sarekat Islam
Langkah awal Mas Mansoer sepulang dari belajar di luar negeri ialah bergabung dalam Sarekat Islam. Peristiwa yang dia saksikan dan alami baik di Makkah, yaitu terjadinya pergolakan politik, maupun di Mesir, yaitu munculnya gerakan nasionalisme dan pembaharuan merupakan modal baginya untuk mengembangkan sayapnya dalam suatu organisasi. Pada saat itu, SI dipimpin oleh Oemar Said Tjokroaminoto, dan terkenal sebagai organisasi yang radikal dan revolusioner. Ia dipercaya sebagai Penasehat Pengurus Besar SI.
Taswir Al-Afkar
Di samping itu, Mas Mansoer juga membentuk majelis diskusi bersama Wahab Hasboellah yang diberi nama Taswir al-Afkar (Cakrawala Pemikiran). Terbentuknya majelis ini diilhami oleh Masyarakat Surabaya yang diselimuti kabut kekolotan. Masyarakat sulit diajak maju, bahkan mereka sulit menerima pemikiran baru yang berbeda dengan tradisi yang mereka pegang. Taswir al-Afkar merupakan tempat berkumpulnya para ulama Surabaya yang sebelumnya mereka mengadakan kegiatan pengajian di rumah atau di surau masing-masing. Masalah-masalah yang dibahas berkaitan dengan masalah-masalah yang bersifat keagamaan murni sampai masalah politik perjuangan melawan penjajah.