برخی از آداب و رسوم تصوف هیچ‌گاه در اسلام نبوده و ریشه در ادیان و مذاهب غیر اسلامی دارد. به‌عنوان مثال برخی تصوف را زایید افکار ادیان ایرانی همانند آیین مانی و برخی دیگر صوفیه را برگرفته از آیین هندی و برخی دیگر از محققین آداب و رسوم تصوف را زاییده افکار نوافلاطونی یا مسیحیت دانسته‌اند.

برخی معتقدند که زهد افراطی برخی از مسلمانان و صحابه پیامبر (ص) باعث پیدایش تصوف شده است. درحالی‌که حضرت، مسلمین را از استغراق در ریاضت و گرایش به رهبانیت منع می‌کردند. درواقع متصوفه برای اینکه بتوانند به رفتار و عقاید خود اعتبار بخشند و به تصوف هویت و اعتبار دهند، دست به تاریخ‌سازی برای خود زده و منشأ خود را تا زمان پیامبر اسلام (صلی الله علیه و آله) رسانده‌اند.

به غیر از متصوفه، صوفی پژوهان زیادی از کشورهای مختلف به‎دنبال پیدان کردن تعریف صحیحی از تصوف بودند ولی اگر نگوییم که تعریفش غیرممکن است، باید اعتراف کرد که بسیار مشکل است. چنانچه نیکلسن بعد از جمع کردن تعاریف مختلفی از تصوف، به این نتیجه می‌رسد که تصوف را نمی‌توان تعریف کرد.

پیروان فرقه‌ی صوفیه در ادعایی، تمام آداب و اعمال خود را اسلامی دانسته و برای فریب و جذب مردم ساده لوح، به آن رنگ و لعاب اسلامی زدند، در حالی که خیلی از این آداب و اعمال در این فرقه، منشأ غیر اسلامی داشته و از ادیان و مذاهب دیگر اقتباس گردیده است.

درحالی که مشهور صوفیه و غیرهم اولین صوفی را ابوهاشم کوفی و اولین محل تجمع صوفیان را رمله شام می‌دانند، ابن تیمیه حنبلی اول ظهور صوفیه را در بصره دانسته و نیز اول کسی که دیر کوچکی برای صوفیه ساخت را بعضی از پیروان عبد الواحد بن زید می‌داند، که نظر او مخالف قول مشهور است.

در حالی که عده‌ای منشا تصوف را ادیان الهی همانند یهودیت یا مسیحیت یا آیین‌های غیر الهی همانند آیین بودا، مانی معرفی می‌کنند، صوفیان اصل و منشا تصوف را آیات قرآن و احادیث معصومین (علیهم السلام) قرار داده و مدعی شده‌اند اسلام واقعی همان تصوف است و بس.