Majelis Syuro Muslimin Indonesia pada awalnya didirikan sebagai pengganti MIAI (Madjlisul Islamil A'laa Indonesia) karena Jepang memerlukan suatu badan untuk menggalang dukungan masyarakat Indonesia melalui lembaga agama Islam. Saat itu kyai di daerah banyak dimanfaatkan Jepang untuk melakukan peperangan.
Hubungan antara Muhammadiyah dengan Majelis Syuro Muslimin Indonesia sempat merenggang pada Pemilu 1955. Muhammadiyah pun melepaskan keanggotaan istimewanya menjelang pembubaran Majelis Syuro Muslimin Indonesia pada tahun 1960.