Dialah satu-satunya pemimpin Muhammadiyah yang diangkat berdasarkan wasiat. Dan sang pemberi wasiat adalah sang pendiri: KH Ahmad Dahlan. Sebelum wafat, ia memang berpesan pada sahabat-sahabatnya agar tongkat kepemimpinan Muhamadiyah sepeniggalnya diserahkan kepada Kiai Haji Ibrahim.
Mula-mula Kiai Ibrahim menyatakan bahwa dia tidak sanggup memikul beban yang demikian berat itu. Namun atas desakan sahabat-sahabatnya agar amanat pendiri Muhammadiyah bisa dipenuhi, akhirnya dia bisa menerimanya. Kepemimpinannya dalam Muhammadiyah dikukuhkan pada bulan Maret 1923 dalam rapat tahunan anggota Muhammadiyah. Sebutan resminya kala itu Voorzitter Hoofdbestuur Moehammadijah Hindia Timur.
Ibrahim dilahirkan di kampung Kauman, Yogyakarta, pada 7 Mei 1874. Ia putra KH Fadlil Rachmaningrat, seorang Penghulu Hakim Negeri Kesultanan Yogyakarta pada zaman Sultan Hamengkubuwono ke VII. Ia adik kandung Nyai Ahmad Dahlan. Ia menikah dengan Siti Moechidah binti Abdulrahman alias Djojotaruno pada tahun 1904. Pernikahannya dengan Siti Moechidah tidak berlangsung lama karena sang istri meninggal. Ia kemdian menikah dengan Moesinah, putri KH Abdulrahman atawa adik kandung Moechidah. Nyai Ibrahim wafat pada 9 September 1998 dalam usia 108 tahun. Menurut penilaian para sahabat dan saudaranya, Ibu Moesinah Ibrahim merupakan potret wanita zuhud, penyabar, gemar sholat malam dan gemar silaturahmi. Karena kepribadiannya itulah maka Hj. Moesinah sering dikatakan sebagai ibu teladan.
Mula-mula ia belajar Alquran kepada ayahnya. Ia kemudian belajar dasardasar keagamaan kepada kakaknya, KH M. Nur. Pada usia 17 tahun ia berangkat ke Mekah,untuk menunaikan ibadahhaji dan sekaligus belajar agama. Setelah krang lebih 8 tahun bermukim di Tanah Suci, ia kembali ke Jogja, karena ayahnya sudah lanjut usia.
KH. Ibrahim yang selalu mengenakan jubah panjang dan sorban dikenal sebagai ulama besar. Ia hafal Quran dan ahli qira’ah (seni baca Al-Qur’an). Sebagai seorang Jawa, ia sangat dikagumi oleh banyak orang karena keahlian dan kefasihannya dalam menghapal Alquran dan bahasa Arab. Pernah orang begitu kagum dan takjub, ketika dalam pidato pembukaan (khutbah al-’arsy atau sekarang disebut khutbah iftitah) Kongres Muhammadiyah ke-19 di Bukit Tinggi Sumatera Barat pada tahun 1939, ia menyampaikan dalam bahasa Arab yang fasih.
Ia juga memimpin pengajian kaum ibu bernama Adz-Dzakiraat. Perkumpulan ini banyak berjasa kepada Muhammadiyah dan `Aisyiyah. Misalnya, membantu pencarian dana untuk Kas Muhammadiyah, `Aisyiyah, PKU, Bagian Tabligh, dan bagian Taman Pustaka. Pengajian yang diasuh KH. Ibrahim memakai metode sorogan dan weton. Pengajian dilaksanakan setiap hari, kecuali hari Jum`at dan Selasa.
Pada masa kepemimpinan Ibrahim, Muhammadiyah maju begitu pesat. Muhammadiyah berkembang di seluruh Indonesia, dan meresap di seluruh Jawa dan Madura. Kongres-kongres mulai diselenggarakan di luar kota Yogyakarta, seperti Kongres Muhammadiyah ke-15 di Surabaya, Kongres Muhammadiyah ke-16 di Pekalongan, Kongres Muhammadiyah ke-17 di Solo, Kongres Muhammadiyah ke-19 di Bukittinggi, Kongres Muhammadiyah ke-21 di Makasar, dan Kongres Muhammadiyah ke-22 di Semarang. Dengan berpindah-pindahnya tempat kongres tersebut, maka Muhammadiyah dapat meluas ke seluruh wilayah Indonesia.
Pada 1924, Kiai Ibrahim mendirikan Fonds Dachlan yang bertujuan membiayai sekolah untuk anak-anak miskin. Pada 1925 ia mengadakan khitanan massal. Di samping itu, ia juga mengadakan perbaikan badan perkawinan untuk menjodohkan putra-putri keluarga Muhammadiyah. Dakwah Muhammadiyah juga secara gencar disebarluaskan ke luar Jawa. Pada 1928 mengirim putra-putri lulusan sekolah-sekolah Muhammadiyah (Mu`allimin, Mu`allimat, Tabligh School, Normaalschool) ke seluruh pelosok tanah air, yang kemudian di kenal dengan ‘anak panah Muhammadiyah. ’
Pada masa kepemimpinannya, Muhammadiyah mendirikan Uitgeefster My, yaitu badan usaha penerbit buku-buku sekolah Muhammadiyah yang bernanung di bawah Majelis Taman Pustaka. Pada waktu itu pula terjadi penurunan gambar Ahmad Dahlan karena pada saat itu ada gejala mengkultuskan. Tahun 1932 Muhammadiyah menerbitkan surat kabar (dagblaad). Untuk pelaksanaannya diserahkan kepada Pengurus Muhammadiyah Cabang Solo, yang di kemudian hari menerbitkan koran Adil.
Dalam 10 kali kongres, Kiai Ibrahim selalu terpilih. Kongres Muhammadiyah selama memimpin ia lebih banyak memberikan kebebasan gerak bagi angkatan muda untuk mengekspresikan aktivitasnya dalam gerakan dakwah Muhammadiyah. Di samping itu, ia juga berhasil dalam membimbing gerakan Aisyiyah untuk semakin maju, tertib, dan kuat. Ia juga berhasil dalam meningkatkan kualitas takmirul masajid (pengelolaan masjid-masjid), serta berhasil pula dalam mendorong berdirinya Koperasi Adz-Dzakirat.
Seperti Kiai Ahmad Dahlan, Kiai Ibrahim dikenal seorang ulama yang berutur lembut dan sangat dihormati. Kepribadian dan sikap moderatnya banyak menyerupai Kiai Ahmad Dahlan. Bedanya, jika Ahmad Dahlan merupakan pemimpin karismatis sekaligus pelaksana, Ibrahim semata figur pemimpin dalam gerakan Muhammadiyah. Yang menjadi penggerak organiasi sesungguhnya adalah Fachruddin, wakil ketua Muhammadiyah pertama, yang dibantu tiga saudaranya.
Kiai Ibrahim wafat pada 1934, dalam usia 46 tahun. Di bawah kepemimpinannya, Muhammadiyah mengalami perkembangan yang sangat pesat, bahkan pada Kongres Muhammadiyah ke-22 di Semarang pada tahun 1933 (Kongres Muhammadiyah terakhir dalam periode kepemimpinan KH Ibrahim), cabang-cabang Muhammadiyah telah berdiri hampir di seluruh Tanah Air.
