سران صوفیه در تمام مقاطع زمانی، مدعی این مسئله بوده‌اند که تصوف ریشه در اسلام ناب دارد و بدعت گونه بودن و ریشه داشتن در فرق و ادیان دیگر را رد کرده‌اند. حال‌آنکه بسیاری از محققین سرچشمه تصوف را نه در اسلام، بلکه در بیرون از اسلام می‌دانند. چنانچه برخی از محققین صوفی نیز به این مطلب اعتراف کرده‌اند که برخی از اعمال صوفیه ریشه در مکاتب غیر اسلامی دارد.

ابوهاشم کوفی که به عنوان اولین صوفی مشهور است، در منابع اسلامی مورد مذمت بزرگان شیعه واقع شده است. این مساله تا جایی پیش می‌رود که امام صادق (علیه السلام) او را فاسد العقیده می‌داند. وقتی امام صادق (علیه السلام) اولین کسی که مشهور به صوفی است را فاسد العقیده می‌داند، چطور صوفیان امروزی راه درست را در پیش گرفته و منحرف نیستند؟

برخی از پژوهشگران منشا تصوف را آیین‌های غیر اسلامی می‌دانند. این عده به خاطر شباهت‌هایی که میان برخی از عقاید یا آداب و مناسک تصوف و آیین‌های هندو وجود دارد، منشا تصوف را آیین هندو می‌دانند و همین امر موجب شده تا به تصوف بی‌اعتنایی شود.

تصوف در قرن هفتم به‌مرور میان شیعه نفوذ کرده بود و طی قرن هشتم تا پایان قرن نهم، این مذهب در ایران به‌شدت از تصوف تأثیر پذیرفت. درپی تأثیرات صوفیه بر عده‌ای از شیعیان، دولت صفویه به دلایل سیاسی و اعتقادی، به‌منظور کاهش نفوذ صوفیه، به‌تدریج از فقها و علمای امامیه برای اداره امور دینی جامعه کمک گرفت و آنان را در قدرت سیاسی سهیم کرد. نتیجه این کار کاهش نفوذ صوفیه در دولت صفوی بود.

سران فرقه ذهبیه مدعی‌اند که سلسله ذهبیه از اقطاب سنی مذهب خالی و همچون طلا خالص است، لذا نام فرقه خود را ذهبیه نامیده‌اند. در حالی که محققین معتقدند که تا قرن هشتم در تشیع از صوفی‌گری خبری نبوده است و بزرگانی از این فرقه همچون معروف کرخی، جنید بغدادی، سهروردی، نجم الدین کبری و علاء الدوله سمنانی از اهل‌سنت هستند.

برخی از تذکره‌نویسان صوفی درباره بزرگان خود آنقدر غلو کرده‌اند که تشخیص صحت و عدم صحت سخن ایشان یا ممکن نیست یا اینکه به سختی ممکن است. از جمله افرادی که روایات گوناگونی درباره چگونگی پیوستن او به صوفیه مطرح شده است، ابراهیم ادهم است که انگیزه اصلی پیوستن او به صوفیه با بیان روایات متفاوت پنهان مانده است.