Menurut Rasjidi, aliran kebatinan dan Islam adalah dua hal yang berbeda. Orang-orang yang memakai Islam sebagai dasar gerakan kebatinan, sebenarnya mereka adalah orang yang tidak mampu untuk membedakan antara dasar Hindu dan Islam. Bagaiamana dengan dakwah kalangan Nasrani?
Haji Mohammad Rasjidi tidak lama menempati posnya sebagai menteri agama. Hanya sampai awal Oktober 1946. Meski begitu, ia tetap berperan dalam perjuangan negara yang baru dibentuk itu.
Syahdan, pada 13 Maret 1946 ,Mohammad Abdul Mounem, Konsul Jenderal Mesir di Bombay menemui pemerintah Indonesia sebagai utusan Liga Arab yang berkedudukan di Kairo. Ia utusan negara asing pertama yang datang ke Ibu kota Republik Indonesia setelah berhasil menerobos blokade diplomatik Belanda. Setelah mengadakan tukar pikiran dengan Bung Karno, Bung Hatta, dan sejumlah pembesar Republik lainnya, diputusanlah untuk mengirimkan delegasi Indonesia ke negara-negara Timur Tengah. Delegasi itu disebut Delegasi Diplomatik RI dan diketuai oleh Haji Agus Salim dengan anggota Mr. Nazril Dt. Pamuntjak, Abdul Kadir, dan Abdul Rachman Baswedan. Smentara Rasjidi ditunjuk sebagai sekretaris sekaligus bendahara.
Tugas berat lainnya yan harus dipikul Rasjidi urusan jemaah haji Indonesia yang sudah mulai berdatangan ke Arab Saudi. Saat itu Pemerintah belum ada komunikasi dengan kerajaan Saudi. Padahal Belanda sudah akan memberangkatkan 10 ribu orang jemaah haji. Rasjidi kemudian memanfaatkan kertas kosong yang sudah ditandatangani oleh Haji Agus Salim. Ditulisnya surat kepada Raja Abdul Aziz, yang menyebutkan pengangkatan dirinya sebagai delegasi Republik Indonesia untuk mengadakan perundingan dengan Pemerintah Saudi.
Dengan bekal surat itulah, Rasjidi berangkat menuju Arab Saudi, guna melakukan diplomasi untuk memperkenalkan Republik Indonesia kepada Raja Arab sekaligus mencari pengakuannya. Rasjidi belum berpengalaman dalam diplomasi dan protokoler. Bekalnya hanya hasil bacaannya dari buku-buku ilmu diplomasi berbahasa Inggris dan Perancis.
Pada 1949 Rasjidi diangkat menjadi Duta Besar Indonesia untuk Mesir dan Arab Saudi yang berkedudukan di Kairo. Lalu, pada 1953 ia dipindahkan ke Teheran. Tiga belas bulan kemudian Rasjidi dipindah ke Jakarta. Rupanya, di Jakarta jabatan Rasjidi hanya di bidang administrasi. Maka, ia memilih untuk melanjutkan studinya ke Universitas Sorbonne, Paris, atas beasiswa dari Yayasan Rockefeller pada 1954.Ia berhasil mempertahankan tesisnya yang berjudul “I ‘Evolution de I’Islam en Indonesie ou Consideration Critique du Livre Tjentini”. Ia mendapat gelar Docteur de I’Université de Paris avec la mention Trés honorable atau Cum Laude.
Pulang dari Paris, pemerintah memberi kepercayaan padanya untuk menjadi duta besar di Pakistan. Belum genap dua tahun menjadi duta besar, Rasjidi merasa gundah karena RI terpecah. Pemberontakan PRRI/Permesta terjadi di Sumatera dan Sulawesi Selatan. Mantan pemimpin Masyumi, seperti M. Natsir dan Syafruddin Prawiranegara yang tak lain adalah sahabat dekatnya, ikut masuk hutan. Satu pihak para pemberontak adalah sahabatnya, di pihak lain, ia mewakili pemerintah Indonesia menjadi duta besar.
Rasjidi tidak mau terjebak pada dukung-mendukung secara politik. Mendukung Natsir-Syafruddin berarti melawan pemerintah RI sekaligus ikut “memusuhi” para sahabatnya. Pada saat yang bersamaan, dating tawaran mengajar dari Institute of Islamic Studies, McGill University di Montreal, Kanada. Berangkatlah ia pada tahun 1957. Lalu, 1963 ia kembali ke Indonesia yang berada dalam kondisi politik yang memanas dan adanya dominasi PKI terhadap Presiden Soekarno.
Rasjidi merupakan seorang birokrat-intelektual sekaligus cendekiawan Islam. Ia tidak pernah absen dalam membela Islam, baik terhadap aktivis Kristen, tokoh-tokoh aliran kepercayaan, maupun tokoh-tokoh Islam sendiri. Kepada para misionaris Kristen, Rasjidi selalu mengingatkan, agar mereka tidak melancarkan “serangan” dengan membawa beras, gula, kopi, untuk ditukar dengan agamanya. Tentang etika menyebarkan agama ini menjadi perhatian serius bagi Rasjidi.
Semasa hidupnya Prof. Dr. HM Rasjidi dikenal sebagai penentang keras aliran kebatinan. Ia juga tampil sebagai pengeritik tanpa ampun terhadap gagasan sekularisasi Nurcholish Madjid, yang waktu itu menjadi perbincangan hangat di masyarakat. Di balik sikapnya yang keras itu, menteri agama pertama Republik Indonesia sangat kalem dan lembut jika sedang berbicara.
Perkembangan komunitas kebatinan dengan segenap manuver yang mereka buat juga menjadi perhatian Rasjidi. Menurutnya, aliran kebatinan dan Islam adalah dua hal yang berbeda. Orang-orang yang memakai Islam sebagai dasar gerakan kebatinan, sebenarnya mereka adalah orang yang tidak mampu untuk membedakan antara dasar Hindu dan Islam. Dari zikir kepada Allah secara buat-buatan, lalu terjadilah ekstase yang bersifat badani. Ini adalah ekstase yang diperoleh oleh orang awam, sementara untuk mendapatkan ekstase yang sungguh-sungguh, diperlukan pikiran yang tenang, hati yang suci dan ibadat, serta pengetahuan yang mendalam. Rasjidi menyatakan bahwa tujuan hidup seorang Muslim adalah memohon ridhanya Allah SWT. Ia tidak membenci para pemeluk kebatinan, tapi ia berusaha untuk meluruskan pemahaman mereka agar kembali ke jalan yang benar.
Ketika Nurcholish Madjid alias Cak Nur melontarkan gagasannya tentang sekulerisasi, di antaranya ungkapan “Islam yes, partai Islam no”, Rasjidi tampil memberikan bantahan dengan menulis buku bertajuk Koreksi terhadap Drs. Nurcholish Madjid tentang Sekulerisasi. Dalam pandangan Rasjidi, sekulerisasi identik dengan adopsi sekulerisasi yang punya pengertian pemisahan antara urusan keagaan dengan keduniaan. Sekulerisme bertentangan dengan Islam, juga dengan agama-agama lain. Ia lalu mengacu pada sejarah Eropa. Menurut Rasjidi, sekulerisme mulai mendapatkan momentumnya pada masa pertengahan, ketika ranah keduniaan dalam kehidupan mulai dipisahkan dari agama, persisnya Katolik.
Adapun semangat pembaruan yang dilontarkan Cak Nur, menurt Rasjidi, merupakan ancaman bagi umat Islam. Nurcholish, dalam pandangan Rasjidi, telah kebingungan dalam beberapa isu keagamaan, karena ia belum “cukup dewasa” dan karena itu, tidak qualified untuk menyinggung masalah-masalah serius tentang agama. Teori-teorinya dangkal, dan tidak ada seorang pun yang akan menerimanya.
Harun Nasution dan Cak Nur menjadi sasaran kritik HM Rasjidi Referensi pihak ketiga
Ketika Prof. Dr. Harun Nasution meluncurkan buku, Islam Ditinjau dari Beberapa Aspeknya –dan buku ini menjadi pegangan mahasiswa IAIN di seluruh Indonesia— Rasjidi juga memberikan tanggapannya. Ia tak hanya menyanggahnya di forum-forum seminar atau ceramah, tapi juga menulis buku sanggahan dengan judul, Koreksi terhadap Dr. Harun Nasution tentang Islam Ditinjau dari Berbagai Aspeknya 1977. Setelah satu persatu argumen Harun dibantah, Rasjidi membuat penilaian. Ia menilai Harun sebagai agen orientalis dan pembangkit kembali ajaran-ajaran rasional Mu’tazilah. Kesimpulan Rasjidi adalah, gagasan-gagasan Harun Nasution mengancam Islam dan kaum Muslimin di Indonesia.
Pada 1965, Rasjidi aktif di Rabithah Alam Islami. Ia diminta secara pribadi oleh Raja Faisal. Untuk mengisi waktu luang, ia menulis buku atau menerjemahkan berbagai karya orang terkemuka, yang diangggapnya bermanfaat bagi kemajuan umat Islam di Indonesia. Buku-buku yang dihasilkannya pada umumnya juga diketahui oleh pihak Rabithah. Tetapi setelah terbunuhnya Raja Faisal oleh kemenakannya sendiri, hubungan Rasjidi dengan Rabithah Alam Islami terputus. Namun akhirnya Rasjidi ditunjuk untuk mengepalai kantor Rabithah di Indonesia.
Rasjidi juga ditunjuk sebagai anggota Majelis Ta’sisi (Dewan Konstitusi) yang beranggotakan 50 orang dari berbagai negara Islam, kecuali Iran, yang menganut paham Syiah. Setiap musim haji ia harus hadir dalam sidang yang diadakan di Mekah. Majelis Ta’sisi memberi jawaban atas soal-soal yang berkaitan dengan Islam dan umat Islam di seluruh dunia pada saat itu. Selain aktif di Rabithah, Rasjidi juga mengajar Ilmu Filsafat pada Program Studi Pasca sarjana IAIN Jakarta. Sebenarnya ada juga permintaan mengajar di luar negeri, di Malaysia. Tetapi tawaran itu ditolaknya karena alasan kesehatan.
Pada September 1996 Rasjidi mendapat gelar Guru Besar Hukum Islam di Fakultas Hukum Universitas Indonesia. Sepanjang hidupya ia abdikan untuk menjaga akidah umat agar tidak tersesat. Prof. Dr. H.M. Rasjidi wafat pada 30 Januari 2001 di Jakarta dan dimakamkan di Yogyakarta