Masykur adalah seorang tokoh Nahdlatul Ulama (NU) dan pernah menjadi menteri Agama RI selama empat periode, yaitu dalam Kabinet Amir Syarifuddin ke-2, Kabinet Hatta ke-2, Kabinet RI Peralihan, dan Kabinet Ali-Wongso-Arifin. Dalam kabinet yang tersebut terakhir KH Masykur mewakili Partai NU.
Ketika berusia 9 tahun, Masykur menyertai kedua orangtuanya menunaikan ibadah haji. Sepulang haji, Masykur diantarkan ayahnya ke Pondok Pesantren Bungkuk yang dipimpin Kiai Thahir.
Selesai belajar di Pesantren Bungkuk, Singosari, Masykur pindah ke Pesantren Sono, yang terletak di Buduran, Sidoarjo, untuk belajar ilmu sharaf dan nahu. Empat tahun kemudian, ia pindah ke Pesantren Siwalan Panji, juga di Sidoarjo, untuk mendalami fikih.
Selanjutnya, Masykur pindah ke Pesantren Tebuireng, Jombang, yang dipimpin oleh KH Hasyim Asy’ari untuk belajar ilmu hadis dan tafsir. Setelah menamatkan pelajaran di Tebuireng, Masykur berangkat ke Bangkalan, Madura, untuk belajar qiraah Al-Qur’an di pesantren Kiai Khalil. Setahun kemudian, Masykur pergi ke Solo untuk menuntut ilmu di Pesantren Jamsaren.
Sewaktu di Jamsaren, Solo, usia Masykur sudah berangkat dewasa. Selesai menamatkan pelajaran, ia pulang ke kampungnya, Singosari. Di sana, ia membuka madrasah yang diberi nama Misbahul Wathan (Pelita Tanah Air).
Dalam pada itu, usia Masykur bertambah dewasa, dan merasa sudah waktunya untuk berumah tangga. Ia kemudian memilih cucu Kiai Thahir, gurunya di Pesantren Bungkuk, menjadi istrinya.
Pernikahannya dilangsungkan pada 1923. Setelah 16 tahun hidup bersama, istrinya meninggal dunia tanpa memberinya seorang anak. Pada 1939, atas saran Kiai Khalil dari Genteng, Masykur menikahi adik almarhumah istrinya, yang bernama Fatimah. Setahun kemudian (1940), pasangan itu dikaruniai seorang putra yang diberi nama Syaiful Islam.
Ketika masih di Singosari, Masykur sudah aktif di NU sebagai ketua cabang Malang. Masykur juga turut dalam Laskar Hizbullah.
Menjelang kemerdekaan, ia diangkat menjadi anggota Sidang Panitia Persiapan Kemerdekaan Indonesia. Sewaktu sidang membahas soal dasar negara, Masykur dengan tegas menyatakan bahwa dasar negara yang akan dibangun hendaknya tetap Islam karena mayoritas penduduk beragama Islam.
Pendapatnya itu didukung tokoh Islam lainnya seperti Abdul Kahar Muzakkir (pernah menjadi rektor Universitas Islam Indonesia Yogyakarta).
Pada November 1947 Masykur dipanggil Bung Karno ke Yogyakarta (waktu itu ibukota RI). Dalam pertemuan itu, ia ditawari menjadi menteri Agama. Ia diangkat menjadi menteri Agama dalam Kabinet Amir Syarifuddin ke-2 dan pindah ke Yogyakarta.
Sewaktu Belanda kembali melakukan agresi militernya, Masykur ikut melakukan perjuangan gerilya, berpindah dari suatu tempat ke tempat lain. Pernah pula ia ikut pasukan gerilya di bawah pimpinan Panglima Besar Jenderal Sudirman.
Selanjutnya dalam Kabinet Hatta ke-2, Masykur diangkat kembali menjadi menteri Agama dengan ketetapan presiden. Kabinet Hatta ke-2 tidak berlangsung lama, sebab pada Desember 1949 dibentuk lagi kabinet baru yang diberi nama Kabinet RI Peralihan. Dalam kabinet ini ia tetap terpilih sebagai menteri Agama.
Pada 1952, Masykur terpilih sebagai ketua Dewan Presidium Pengurus Besar NU, kemudian ditetapkan menjadi ketua umum Tanfidziah PBNU. Karena NU berbentuk partai, berarti Masykur adalah ketua umum partai. Dalam penyusunan Kabinet Ali-Wongso-Arifin, Masykur dipilih lagi menjadi menteri Agama (mewakili NU).
Ketika menjadi menteri Agama, timbul gagasannya untuk membuat Al-Qur’an dengan ukuran raksasa yang kelak akan menjadi pusaka generasi mendatang. Dengan bantuan Haji Abu Bakar Atjeh, Haji Syamsiar, dan Salim Fahmi Langkat, gagasan itu kemudian diwujudkan.
Presiden Soekarno dan Wakil Presiden Hatta mendukung gagasan Masykur membuat karya monumental tersebut. Al-Qur’an Pusaka itu kini tersimpan dengan baik di Masjid Baiturrahim, Istana Negara, Jakarta.
Dalam era Orde Baru, Masykur dipilih menjadi ketua Sarbumusi (Sarekat Buruh Muslimin Indonesia, salah satu lembaga dalam NU). Di bawah kepemimpinannya, Sarbumusi mengalami kemajuan.
Masykur pernah menghadiri undangan Uni Soviet kepada Sarbumusi untuk mengadakan peninjauan dan studi komparasi terhadap kegiatan kaum buruh di sana. Kesempatan itu juga digunakannya untuk mengamati perkembangan agama Islam.
Pada waktu NU berfusi ke dalam Partai Persatuan Pembangunan (PPP), Masykur pernah terpilih sebagai ketua fraksi PPP di DPR yang sedang giat membahas RUU Perkawinan.
Pada usianya yang semakin lanjut, KH Masykur masih tetap dimintai saran dan nasihatnya oleh Pengurus Besar NU, walaupun ia sendiri sudah tidak dapat menghadiri acara yang diselenggarakan organisasi itu.
Usaha terakhir yang dirintisnya adalah mendirikan Universitas Islam Sunan Giri Malang (Unisma). Statusnya berada di bawah Lembaga Pendidikan Ma’arif Pusat (Lembaga Pendidikan NU).