Sebagai salah satu cabang dari ilmu-ilmu islam, tasawuf berakar kuat dalam al-Qur'an, Hadis dan tradisi islam. Ia menekankan dimensi esoteris agama, untuk mengimbangi ilmu hukum (fiqh) yang berorientasi pada dimensi eksoteris agama sehingga timbul keberagamaan yang sangat formalistik. Ikhwal shalat, misalnya, tasawuf berusaha untuk menangkap ruh ibadah yang dikatakan al-qur'an berpotensi menyeret pelakunya ke neraka. Melalui Ihya Ulum al-din, Imam al-Ghazali memberikan ruh pada ritual peribadatan Islam. Terjadinya kontroversi tasawuf, terkait soal kebersatuan 'abid dan ma'bud, yang diistilahkan sebagai al-ittihad, al-hulul dan wahdat al-wujud. Jaran terpenting tasawuf adalah membangun akhlaq mulia, mempunyai sifat-sifat terpuji sebagaimana sifat-sifat Allah, dengan melakukan amal-amal ibadah seperti digariskan syariat yang dibawa oleh Rasullah. Tasawuf yang menegakan Syari'ah dipandang oleh Muhammadiyah sebagai jalan yang dikehendaki agama, sedangkan yang menyalahi Syari'ah adalah tasawuf sesat. Meskipun secara formal tidak bertasawuf, tetapi pada substansinya para sesepuh Muhammadiyah, misalnya, Buya ZAS, Buya Zul, Pak AR, dan Amin Rais adalah pelaku tasawuf akhlaqi.