Dalam sumber ajaran Islam, al-Qur’an dan hadist terdapat ajaran yang dapat membawa kepada timbulnya tasawuf. Paham bahwa Tuhan dekat dengan manusia, yang merupakan ajaran dasar dalam mistisisme ternyata ada di dalam al-Qur’an dan hadits. Dalam QS. Al-Baqarah ayat 186 menyatakan:

وَإِذَا سَأَلَكَ عِبَادِي عَنِّي فَإِنِّي قَرِيبٌ أُجِيبُ دَعْوَةَ الدَّاعِ إِذَا دَعَانِ

Artrinya: Jika hamba-hamba-Ku bertanya padamu tentang diri-Ku. Aku adalah dekat. Aku mengabulkan seruan orang memanggil jika ia panggil Aku.

Kata da’a yang terdapat dalam ayat di atas oleh sufi diartikan bukan berdoa dalam arti yang lazim dipakai, melainkan dengan arti berseru atau memanggil. Tuhan mereka panggil, dan Tuhan memperlihatkan diri-Nya kepada mereka.

Ayat 115 dalam QS. Al- Baqarah juga menyatakan:

وَلِلّهِ الْمَشْرِقُ وَالْمَغْرِبُ فَأَيْنَمَا تُوَلُّواْ فَثَمَّ وَجْهُ اللّهِ

Artinya: Timur dan Barat kepunyaan Allah, maka kemana saja kamu berpaling disitu (kamu jumpai) wajah Tuhan.

Bagi kaum sufi ayat ini mengandung arti bahwa di mana saja Tuhan ada, dan dapat dijumpai.

Selanjutnya dalam hadits dinyatakan:

Artinya : Siapa yang kenal pada dkinya, pasti kenal pada Tuhan.

Hadits lain yang juga mempunyai pengaruh kepada timbulnya paham tasawuf adalah hadits qudsi yang berbunyi:

Artinya: Aku pada mulanya adalah harta yang tersembunyi, kemudian Aku ingin kenal, maka Kuciptakanlah makhluk dan merekapun kenal pada-Ku melalui diri-Ku.

Menurut hadist ini, bahwa Tuhan dapat dikenal melalui makhluk-Nya, dan pengetahuan yang lebih tinggi ialah mengetahui Tuhan melalui diri-Nya.

Artinya:

Meskipun secara tekstual tidak ditemukan ketentuan agar umat Islam melaksanakan tasawuf akan tetapi kegiatan tasawuf telah dilakukan oleh Nabi Muhammad Saw sebelum diangkat menjadi rasul, ia telah berulang kali pergi ke Gua Hira dengan membawa sedikit perbekalan. Tujuannya disamping untuk mengasingkan diri dari masyarakat kota Mekkah yang sedang hanyut dalam kehidupan kebendaan dan penyembahan berhala, juga untuk merenung dalam rangka mencari hakekat kebenaran yang disertai dengan melakukan banyak berpuasa dan beribadah, sehingga jiwanya menjadi semakin suci.

Peri hidup Rasulullah dan sahabat-sahabatnya tidak didasarkan pada nilai-nilai material, nilai-nilai yang bersifat duniawi, misalnya mencari kekayaan pribadi, tetapi bertumpu pada nilai-nilai ibadah, mencari keridhaan Allah Swt Akhlak mereka demikian tinggi, tunduk, patuh kepada Allah, tawadhu’ (merendah diri) dan sebagainya, bagaikan tanaman padi, kian berisi kian merunduk. Peri hidup Nabi dan para sahabatnya yang terpuji (akhlaqul karimah) tersebut antara lain:

Sikap hidup seperti tersebut di atas kemudian diikuti oleh kaum sufi, kemudian menjadi sikap hidup mereka.

Dari perilaku kehidupan Rasulullah dan para sahabatnya serta asal pokok ajaran tasawwuf di atas, dapat kita artikan bahwa hakikat tasawwuf itu adalah mencari jalan untuk memperoleh kesempurnaan hidup rohani. Untuk memperoleh kesempurnaan hidup rohani ini memang tidak mudah, biasanya memerlukan suatu proses, bahkan kadang-kadang proses itu cukup panjang.

Seorang sufi yang ternama pada mulanya juga mengagumi hal-hal yang bersifat lahir, yang dapat diraba dan dirasakan dengan panca-indera, tetapi lama kelamaan kepuasan merasakan sesuatu yang lahir itu berangsur-angsur surut. Maka sirnalah keindahan dunia yang bersifat materi dan mereka mencari kepuasan lain. Mereka menuju alam rohani, yang tidak dapat diraba dengan panca-indera, melainkan hanya dapat dirasakan dengan perasaan halus.

Seseorang tidak dapat memahami dan terjun ke dalam tasawwuf, kecuali sesudah roh dan jiwanya menjadi kuat, demikian kuatnya sehingga ia dapat melepaskan dirinya dari kemegahan dan keindahan duniawi. Peralihan dari ketidakpuasan merasakan nikmatnya keindahan duniawi menuju kepada dunia ghaib ibarat kekaguman seorang anak kecil tentang benda-benda yang terdapat pada alam sekelilingnya. Semua yang pertama kali dilihatnya dirasa indah dan hebat. Ketika perkembangan jiwanya meningkat, sehingga apa-apa yang tadinya dipandang indah dan hebat menjadi kecil dan remeh. Mereka meninggalkan benda-benda itu dan mencari benda-benda yang dapat memuaskan dirinya.

Jadi tasawwuf itu pada dasarnya adalah pindah dari suatu hal keadaan kepada suatu hal keadaan yang lain. Pindah dari alam kebendaan kepada alam kerohaniaan. Sebagai contoh dikemukakan di sini salah satu sisi kehidupan (pengalaman) salah seorang sufi yang terkemuka, yaitu Ibn Arabi. Sebagai manusia, ia merasakan keindahan dunia sebagaimana dirasakan oleh manusia lainnya. Ketika berumur 38 tahun, masa peralihan dari masa muda ke masa tua, ia pergi ke Hejaz dan tinggal serta berguru pada seorang alim ulama di Mekkah. Gurunya itu mempunyai seorang anak perempuan yang cantik jelita, ditambah pula dengan budi bahasanya yang lembut. Perjumpaan Ibn Arabi dengan anak perempuan gurunya itu sangat mengganggu pikirannya. Ia ingin selalu dekat dengan orang yang disenanginya itu. Siang dikenang, malam diimpikan. Banyak sudah karangan yang telah ditulisnya, hanya untuk menggambarkan kekaguman dan kecantikan orang yang dicintainya. Demikian indahnya rangkaian kalimat yang diciptakan Ibn Arabi sehingga dapat menjelaskan kepada kita bahwa besar dan kuatnya rasa cinta terhadap keindahan alam lahir dapat mempengaruhi sikap seseorang. Demikianlah perasaan yang pernah dialami Ibn Arabi. Salah satu kalimat curahan perasaan yang bersifat kesenangan duniawi terungkap dalam perkataannya, “Demikian rupa hatiku terpikat olehnya, pikiran dan jiwaku seakan-akan terbelenggu, sehingga yang  kutuju, setiap nama  yang kusebut, namanyalah yang  kukehendaki,  setiap kampung kampungnyalah juga seakan-akan yang kumasuki.”

Kata-kata Ibn Arabi tersebut menunjutkan bagaimana keadaan seseorang yang telah tenggelam dalam merasakan nikmat pendengaran, penglihatan, dan perasaan hati. Jika pengaruh itu tidak segera dibersihkan, maka manusia tidak dapat melepaskan diri dari kecintaannya terhadap dunia yang bersifat materi ini. Ibn Arabi menyadari akan maksud dan tujuannya datang ke Mekkah ini, ia teringat akan cita-citanya semula. Lalu ia berusaha untuk dapat melepaskan diri dari belenggu syahwat yang telah mengikat alam pikirannya. Ikhtiar Ibn Arabi semacam ini dapat kita katakan permulaan menjauhkan diri dari kesenangan lahir menuju pada kesenangan rohani, yang boleh kita anggap peralihan kepada tingkat iman yang lebih tinggi.

Perhatian Ibn Arabi beralih dari bumi ke angkasa raya, meningkat bersama panggilan jiwanya ke langit, kepada keindahan bintang-bintang yang bertaburan di cakrawala. Pandangannya berpindah dari ruang yang sempit ke dunia luar yang lebih luas dan kepada keindahan yang lebih menakjubkan serta mengagumkan. Ia duduk termenung pada malam hari yang sepi, sambil bertopang dagu, melihat dengan asyiknya keindahan bintang-bintang.

Dari contoh di atas dapat kita ketahui bahwa orang-orang sufi meletakkan makna hidup itu lebih tinggi daripada hidup biasa. Kadang-kadang sampai demikian tingginya, sehingga sulit difahami oleh orang biasa. Jika mereka membicarakan suatu hukum dalam Islam, maka yang dipentingkan adalah tujuan dari hukum itu, sehingga sering ijtihad mereka kelihatannya seolah-olah berbeda dengan pengajaran-pengajaran ilmu fiqih biasa.

Tasawwuf atau sufisme sebagaimana halnya dengan aliran-alkan mistik di luar Islam ingin memperoleh hubungan langsung dan disadari dengan Tuhan, sehingga disadari benar bahwa seseorang berada di hadirat Tuhan. Intisari dari tasawwuf adalah kesadaran akan adanya komunikasi dan dialog antara ruh manusia dengan Tuhan dengan mengasingkan diri dan berkontemplasi (semedi). Banyak ayat Al-Qur’an yang menganjurkan kepada manusia agar merenungi alam raya ini dan juga diri manusia sendiri. Dengan demikian manusia akan mengingat zat penciptanya. Kekaguman akan keindahan alam, diri manusia, lambat laun akan tercurah rasa rindu untuk dekat kepada Tuhan Yang Maha Pencipta. Jika hidup kerohanian (hidup sufi) telah merasuki sendi-sendi kehidupan seseorang, maka tidaklah ia merasa hina dihadapan manusia lainnya sekalipun dengan pakaian bulu domba (suf) yang kasar. Ia menjadi zuhud (tidak terpikat pada kemewahan dunia, ta’abud (berbakti), qana’ah (merasa cukup dengan apa yang ada), dan ikhlas. Hidup kerohanian semacam ini telah dimulai oleh Nabi Muhammad saw, bahkan oleh Nabi-nabi terdahulu, termasuk Ulul Azmi, yaitu: Nabi Nuh as, Nabi Ibrahim as, Nabi Musa as, dan Nabi Isa as.

Mengenai kehidupan Nabi Muhammad saw telah banyak diceritakan, betapa kesederhanaan rumah tangga beliau sehari-hari. Jangankan perabot rumah tangga yang serba mewah dan makanan yang lezat-lezat, alat-alat rumah tangga yang sederhana saja tidak lengkap begitu juga dalam hal makanan, makanan yang biasa untuk makan sehari-hari saja kadang tidak ada. Ia tidur di atas sepotong tikar bukan di atas kasur yang empuk, makanan yang dihidangkan istrinya hanyalah sepotong roti kering yang dengan segelas air minum, dengan sebutir korma atau dua butir korma.

Dalam salah satu hadits yang diriwayatkan oleh Bukhari diceritakan bahwa Aisyah pernah mengeluh kepada keponakannya, Urwah, seraya berkata, “Urwah, lihatlah, kadang-kadang berhari-hari dapurku tidak menyala dan aku bingung karenanya”. Urwah bertanya, “Jadi, apakah yang kamu makan sehari-hari?” Aisyah menjawab, “Paling untuk yang menjadi pokok itu adalah korma dan air, kecuali jika ada tetangga-tetangga Anshar mengantarkan sesuatu kepada Rasulullah, maka dapatlah kami merasakan seteguk susu”. Rasulullah menegaskan, “Kami adalah golongan yang tidak makan kecuali kalau lapar dan jika kami makan tidaklah sampai kenyang”.

Dikisahkan pula pada suatu hari Rasulullah pergi ke masjid. Disana ia berjumpa dengan Abu Bakar dan Umar. Ia bertanya, “Apa yang menyebabkan sahabat-sahabat ini keluar masjid?” Abu Bakar dan Umar menjawab, “Untuk menghibur diri dari lapar”. Rasulullah berkata pula, “Aku pun keluar untuk menghibur laparku. Marilah kita pergi ke rumah Abul Hasim, barangkali di sana ada sesuatu yang boleh di makan.

Rasulullah sering berpuasa sunat, maksudnya antara lain agar saat-saat lapar itu tidak sia-sia, tetap dalam ibadah kepada Allah. Kerap kali pula ia beribadah di mesjid. Setelah beberapa waktu berada di mesjid, ia pulang ke rumahnya dan bertanya kepada Aisyah, “Wahai Aisyah, adakah hari ini sesuatu yang dapat dimakan?” Tatkala Aisyah menjawab bahwa tidak ada sesuatu pun yang dapat dimakan, ia kembali lagi ke mesjid dan menghabiskan waktunya untuk sembahyang sunat. Beberapa saat kemudian ia kembali ke rumahnya dan bertanya kepada Aisyah tentang makanan, Aisyah menjawab seperti jawaban semula. Hal seperti itu dilakukan Rasulullah sampai beberapa kali dan mendapat jawaban yang sama, sampai akhirnya ia mendapatkan sepotong roti di rumahnya dari pemberian Usman bin Affan.

Aisyah menerangkan lebih lanjut bahwa keluarga Muhammad dalam sehari tidak pernah makan sampai dua kali. Makanan disimpan di rumah tidak lebih dari sepotong roti untuk dimakan tiga orang.

Nabi Muhammad-lah yang pertama kali memberikan contoh tentang hidup sederhana, tentang menerima apa adanya, menjadikan hidup rohani lebih tinggi daripada hidup kebendaan yang mewah penuh ria, dan mengajak manusia untuk meninggalkan berburu kekayaan duniawi berlebihan sehingga melupakan tujuan hidup manusia yang pokok. Ia pula yang mengajarkan bahwa kekayaan dan kesenangan duniawi itu tidak abadi, oleh sebab itu ia mengajak kepada manusia untuk meraih kelezatan hidup yang lebih tinggi dan abadi, yakni dengan mendekatkan diri kepada zat Yang Maha Pencipta, Maha Kuasa, Allah SWT. Hidup kerohanian tersebut bertujuan untuk mendekatkan diri sedekat-dekatnya kepada Allah. Hal ini dinyatakan dalam firman-Nya:

وَلَقَدْ خَلَقْنَا الْإِنسَانَ وَنَعْلَمُ مَا تُوَسْوِسُ بِهِ نَفْسُهُ وَنَحْنُ أَقْرَبُ إِلَيْهِ مِنْ حَبْلِ الْوَرِيدِ

Artinya :

Tidak Kami ciptakan manusia dan Kami Tahu apa yang dibisikkan dirinya kepadanya. Kami dekat kepada manusia daripada pembuluh darah yang ada di lehernya. (QS. Al-Qaf : 16)

juga firmannya lagi:

وَإِذَا سَأَلَكَ عِبَادِي عَنِّي فَإِنِّي قَرِيبٌ أُجِيبُ دَعْوَةَ الدَّاعِ إِذَا دَعَانِ

Artinya:

Jika hamba-Ku bertanya kepadamu tentang diri-Ku, maka sesungguhnya Aku dekat, dan aku akan mengabulkan seruan yang memanggil jika Aku dipanggil (doa orang yang memanjatkan doa). (QS. Al-Baqarah :186)

Dari Ibnu Mas’ud diceritakan bahwa ia pernah masuk ke rumah Rasulullah dan didapatinya Rasulullah sedang berbaring di atas sehelai anyaman daun korma sampai memberikan bekas pada pipinya. Dengan rasa haru Ibnu Mas’ud bertanya, “Rasulullah, apakah tidak baik kalau aku mencarkan sebuah bantal untukmu?” Rasulullah menjawab, “Aku tidak memerlukan itu. Aku di dunia adalah laksana seorang yang sedang bepergian, sebentar berteduh di kala hari sangat terik di bawah naungan pohon kayu yang rindang untuk kemudian berangkat lagi dari situ ke arah tujuannya”.

Sehubungan dengan harta benda dikisahkan pula bahwa pada suatu hari pernah diletakkan di hadapan Rasulullah tujuh puluh ribu dirham emas, pada hari itu juga semua uang emas itu dibagi-bagikan tanpa sekepingpun yang tertinggal. Dalam kaitan dengan hal ini diceritakan pula dalam sejarah bahwa ketika Nabi sedang sakit dan menjelang akhir hayatnya, ia teringat bahwa di rumahnya masih tersimpan tujuh buah dinar emas. Dalam keadaan sakit payah, ia memanggil ahli rumahnya untuk segera membagi-bagikan mata uang tersebut kepada fakir miskin. Cerita ini dibenarkan oleh Aisyah yang mengaku bahwa ia lupa kalau ia menyimpan uang itu, karena kesibukan mengurus Nabi yang sedang sakit Tatkala orang bertanya kepadanya, apa yang diperbuatnya dengan tujuh dinar itu, ia menjawab, bahwa ia segera pergi mengambilnya dan menyerahkan kepada Rasulullah Aisyah bertanya mengenai bagaimana perasaan Rasulullah ketika menghadap Tuhan dengan mata uang di tangannya. Lalu Rasulullah membagi-bagikan mata uang itu kepada fakir-miskin, sedangkan ia sendiri pergi menghadap Tuhannya dengan pakaian yang kasar.

Begitu kesederhanaan Rasulullah, sehingga pada waktu wafat pun ia tidak meninggalkan untuk keluarganya uang barang sedinar atau sedirham pun.

Abdurahman bin Auf menceritakan, bahwa pada waktu Nabi wafat tidak ada sesuatu yang ditinggalkannya, kecuali sepotong roti, sebilah pedang, dan seekor keledai yang biasa menjadi tunggangannya sehari-hari, serta sebidang tanah yang sudah diwakafkan.

Dalam sebuah hadis yang diriwayatkan oleh Ibnu Majah, Tabrani, dan Baihaqi, Rasulullah bersabda, “Zuhudlah terhadap dunia, supaya Tuhan mencintaimu. Dan Zuhudlah pada yang ada di tangan manusia supaya manusia pun cinta akan engkau.

Hidup secara zuhud sudah dilakukan Rasulullah sebelum ia menjadi Rasul Ketika itu Muhammad suka menyendiri, berkhalwat atau bertafakur di Goa Hira. Di sana ia memikirkan dan merenungi alam raya ini dengan segala isinya. Ia renungi semua itu dengan mata hatinya. Dengan demikian pandangan lahir bathinnya menjadi sangat bersih dan suci, kepribadiannya sangat sempurna. Ia memang seorang manusia seperti kita, tapi qalbu yang ada di dalam dirinya bersih dan suci, sehingga ia dapat dengan cepat menerima dan merasa apa yang bersifat suci. Sungguh layak jika Muhammad menerima wahyu dari Yang Maha Suci. Fiman Allah:

وَكَذَلِكَ أَوْحَيْنَا إِلَيْكَ رُوحاً مِّنْ أَمْرِنَا مَا كُنتَ تَدْرِي مَا الْكِتَابُ وَلَا الْإِيمَانُ وَلَكِن جَعَلْنَاهُ نُوراً نَّهْدِي بِهِ مَنْ نَّشَاء مِنْ عِبَادِنَا وَإِنَّكَ لَتَهْدِي إِلَى صِرَاطٍ مُّسْتَقِيمٍ

Artinya:

Dan demikianlah Kami wahyukan kepadamu wahyu (Al-Qur’an) dengan perintah kami. Sebelumnya kamu tidaklah mengetahui apakah Al-Kitab (Al-Qur’an) dan tidak pula mengetahui apakah iman itu, tetapi kami menjadikan Al-Qur’an itu cahaya, yang Kami tunjuki dengan dia siapa yang Kami kehendaki di antara hamba-hamba Kami. Dan sesungguhnya kamu benar-benar memberi petunjuk kepada jalan yang lurus. (QS. Asy Syuura: 52)

Menurut Syekh Abdul Baqy Surur, bahwa tahannus Rasulullah di Goa Hira, merupakan cahaya-cahaya pertama dan utama bagi nur tasawuf, itulah cikal-bakal atau benih-benih pertama bagi kehidupan kerohanian yang disebut dengan ilham hati atau renungan-renungan Ruhaniyat.

Cara hidup Nabi di Goa Hira merupakan gambaran yang lengkap bagi kehidupan sufi. Renungan-renungan Nabi di Goa Hira mengenai alam raya membawanya untuk merasakan kebesaran dan keagungan Allah. Di tempat yang sunyi sepi itu pula Nabi melupakan dan memutuskan hubungan, menjauhkan ingatan dari semua makhluk, hanya ada satu dalam ingatannya, yakni Allah Swt.

Menurut para ahli tasawuf, cara-cara yang dilakukan Nabi di Goa Hira merupakan jalan-jalan pertama dan utama untuk sampai kepada kasyaf, untuk memperoleh limpahan-limpahan ilham dan untuk memperoleh isyraq atau pancaran Nur dari Allah. Semua itu ibarat jalan adalah jalan yang mendaki, yakni pendakian bathin ke arah usaha menghubungkan diri dengan Allah yang Maha Pencipta dan Maha Agung. Sesudah menjadi Rasul, Rasulullah meneruskan taqarub (mendekatkan diri) kepada Allah dengan berzikir, istighfar, shalat tahajud sampai jauh malam. Ia memperkuat bathinnya dengan menjalani hidup kerohanian.

Untuk itulah Rasulullah menyediakan ruangan khusus di samping mesjid Madinah untuk tempat tinggal dan pendidikan dalam ilmu agama untuk para sahabat Nabi yang ikhlas mengikuti perjuangan Nabi menyebarkan Islam dan mau menjalani hidup kerohanian. Mereka itu disebut Ahl Suffah. Pada mulanya jumlah mereka 400 orang, lambat laun bertambah sampai berlipat ganda. Mereka mempunyai akhlak yang luhur, iman dan keyakinan mereka sangat kuat, ketawakalan dan keikhlasan mereka sangat luhur. Rasulullah pernah berkata kepada Abu Hurairah, “Ahl Suffah itu adalah tamu-tamu orang Islam, mereka tidak mempunyai keluarga, tidak mencintai harta benda, dan tidak terikat kepada seseorang manusia pun, hatinya hanya tertuju kepada Allah dan Rasul-Nya.

Demikianlah keteladanan hidup kerohanian dari Rasulullah kemudian menjadi contoh sikap hidup para sahabatnya. Imam Ghazali berpendapat, “Bahwa aku yakin benar-benar kaum suffi itulah yang telah menempuh jalan yang dicontohkan oleh Nabi dan yang dikehendaki oleh Allah Taala.”

Setelah Nabi Muhammad saw wafat, kekhalifahan Islam diteruskan oleh para sahabatnya, yakni Abu Bakar Siddiq, Umar bin Khattab, Usman bin Affan, dan Ali bin Abi Thalib. Meskipun menjadi khalifah atau kepala negara yang biasanya hidup serba mewah, namun cara-cara hidup mereka tidak sedikitpun mencerminkan hidup mewah sebagaimana kehidupan raja-raja pada umumnya. Mereka tetap hidup sederhana, wara’, tawadhu’, zuhud sebagaimana yang dicontohkan oleh Nabi.

Sebagai contoh berikut ini dikemukakan salah satu sisi dari kehidupan para khalifah tersebut. Menurut riwayat bahwa Abu Bakar Siddiq hidup dengan sehelai kain saja. Terhadap lidahnya sendiri ia berkata, “Lidah inilah yang senantiasa mengancamku”. Dan ia berkata pula, “Apabila seorang hamba Allah telah dimasuki rasa berbangga diri karena sesuatu dari hiasan dunia ini, Maka Allah akan murka kepadanya, sampai perhiasan itu diceraikannya.”

Pandangan hidup beliau adalah bahwa sifat dermawan adalah buah dari taqwa, kekayaan adalah buah dari keyakinan dan martabat didapat sebagai buah dari tawadhu’.

Umar bin Khatab pun memiliki jiwa yang bersih dan kesucian rohani yang tinggi. Rasulullah pernah berkata tentang diri Umar, bahwa Allah telah meletakkan kebenaran di ujung lidah Umar dan hatinya. Pangkat khalifah yang merupakan kekuasaan tertinggi tidak mengurangi nilai kehidupan rohaninya, bahkan sejak menjadi khalifah kehidupan kerohaniannya semakin ia tingkatkan. Pernah pada suatu ketika datang kiriman zakat dari negeri Yaman, lalu diadakan pertemuan besar, karena Khalifah hendak memberikan nasihatnya. Dalam nasihat tersebut ia mengharapkan agar semua yang hadir mematuhi nasihatnya. Tiba-tiba salah seorang yang hadir berdiri seraya berkata, “Kami tidak akan taat kepada engkau ya, Amirul Mukminin!”. Khalifah bertanya, “Mengapa?” Lalu orang itu berkata pula, “Bagaimana kami akan taat, Tuan membagi-bagikan zakat kiriman yang dari Yaman ini kepada orang lain, sementara Tuan hanya mengambil sebagian kecil saja, padahal pakaian Tuan hanya satu persalinan, tidak ada pakaian musim panas dan tidak ada pakaian musim dingin. Sebelum tuan mengambil satu persalinan lagi, kami tidak akan taat” Mendengar sanggahan orang itu khalifah Umar merasa sulit untuk menjawab, lalu ia berpaling kepada puteranya yang bernama Abdullah, dan berkata, “Hai Abdullah, bagaimana menurut pendapatmu?” Abdullah pun berdiri dan berkata kepada penyanggah itu, “Jika masalahnya hanya pakaian yang satu persalinan lagi, biarlah saya yang akan menanggungnya.” Mendengar jawaban Abdullah, orang yang menyanggah tadi merasa puas dan menyatakan akan patuh dan taat kepada khalifah.

Usman bin Affan adalah Khalifah yang ketiga. Ia adalah seorang Khalifah yang berada. Walaupun ia banyak harta, tetapi ia tetap memperhatikan hidup yang sederhana. Hartanya digunakan untuk menolong yang lemah, untuk perjuangan mengembangkan agama Islam. Ia terkenal orang yang senantiasa membaca dan menelaah Al-Qur’an, Tentang Al-Qur’an ia pernah berkata, “Ini adalah surat yang dikirim oleh Tuhan-Ku. Tidak layak jika ada seorang hamba melalaikan surat dari tuannya. Hendaklah senantiasa dibaca, agar supaya segala isi surat itu dapat dijalankannya.” Menurut riwayat, Usman bin Affan wafat dibunuh oleh pemberontak ketika sedang membaca Al-Qur’an.

Khalifah Ali bin Abi Thalib pun tidak kurang ketinggian hidup kerohaniannya. Dalam tugas-tugasnya yang besar dan mulia, menyebabkan ia tidak perduli bahwa pakaian yang dikenakannya telah  robek.   Ketika  pakaiannya  robek,  ia  sendiri  yang menambalnya. Pernah orang bertanya, “Mengapa sampai begini, Amirul Mukminin?” Beliau menjawab, “Untuk mengkhusyu’kan hati dan untuk menjadi teladan bagi orang yang beriman.

Selain dari sahabat Nabi yang empat sebagaimana disebutkan di atas, hidup kerohanian juga dilaksanakan oleh sahabat-sahabat vang lain, di antaranya adalah Huzaifah bin Yaman. Ia terkenal salah seorang sahabat Nabi yang zahid.

Ia menjadi tempat bertanya pula mengenai ilmu yang pelik-pelik. Umar sering datang kepada Huzaifah untuk menanyakan apakah pada dirinya terdapat kesalahan atau tanda-tanda munafik, atau apa sikap-sikap yang tidak sesuai dengan ajaran Islam, kadang-kadang Huzaifah mengecam Umar dan Umar pun dengan ikhlas memperbaiki atas segala kekhilafannya.

Kepopuleran Huzaifah tersebar ke daerah-daerah di luar negeri Arab. Demikianlah, Hasan Basri, seorang tokoh sufi yang terkenal datang berguru kepada Huzaifah.

Sahabat lain yang dengan tegas menentang gaya hidup mewah adalah Abu Dzar Al-Ghiffari. Ia melihat bahwa ketulusan beragama sudah mulai lemah, karena pengaruh harta, dan justru hal yang demikian, bahkan pula dilakukan oleh gubernur Muawiyah, yang semestinya menjadi teladan dengan berani dan terus terang menentang pengumpulan harta benda untuk kepentingan diri sendiri. Abu Dzar berpegang kepada ayat Al-Qur’an:

وَالَّذِينَ يَكْنِزُونَ الذَّهَبَ وَالْفِضَّةَ وَلاَ يُنفِقُونَهَا فِي سَبِيلِ اللّهِ فَبَشِّرْهُم بِعَذَابٍ أَلِيمٍ

Artinya: Dan orang-orang yang menyimpan emas dan perak dan tidak menafkahkannya pada jalan Allah, maka berita bukanlah kepada mereka (bahwa mereka akan mendapat) siksa yang pedih. (Q.S At-Taubah:34)

Sikap Abu Dzar yang demikian, oleh Muawiyah dipandang sebagai pengganggu ketenteraman umum, Abu Dzar dituduh telah membangkang terhadap pemerintah yang sah dan melemahkan semangat perjuangan. Fitnah ini disampaikan kepada Khalifah Usman. Akibatnya, Khalifah Usman mengasingkan Abu Dzar ke luar kotaMadinah, ke sebuah dusun bernama Rizbah.

Dengan peristiwa yang dialami Abu Dzar ini, mulailah muncul golongan kaum Zahid, yaitu golongan yang mengutamakan hidup kebathinan dan kerohanian.

Setelah Abu Dzar orang yang terkenal menentang cara hidup mewah pada masa sahabat, terkenal pula nama Said bin Zubair seorang tabi’in yang kuat pribadinya. Ia seorang zahid yang betul berani mengusir siapa saja yang bersalah, walaupun yang bersalah itu seorang Khalifah, ia mengangkat Gubernur Irak, seorang tokoh yang gagah perkasa, namun terkenal kejam, bernama Hajjaj bin Yusuf al-Tsaqafi. Hajjaj tidak segan-segan membunuh orang untuk menegakkan kekuasaan Bani Umayah. Melihat tindakan semena-mena itu, Sa’id Zubair sangat kecewa. Ia tidak takut sedikitpun kepada keperkasaan Hajjaj dan tetap berani menegurnya. Tentu saja Hajjaj merasa tersinggung. Maka dituduhnya seorang pencinta Ali, bermadzhab Syi’ah, yaitu Mashab yang sangat dibenci saat itu. Sa’id pun ditangkap dan dijatuhi hukuman mati. Ketika akan dibunuh, Hajjaj berkata kepada algojo, “Jangan hadapkan mukanya ke arah kiblat, biar dia mati membelakangi kiblat. Sa’id menjawab, “Kemana pun engkau hadapkan mukaku, disanalah wajah Allah.”