ابوهاشم کوفی که به عنوان اولین صوفی مشهور است، در منابع اسلامی مورد مذمت بزرگان شیعه واقع شده است. این مساله تا جایی پیش می‌رود که امام صادق (علیه السلام) او را فاسد العقیده می‌داند. وقتی امام صادق (علیه السلام) اولین کسی که مشهور به صوفی است را فاسد العقیده می‌داند، چطور صوفیان امروزی راه درست را در پیش گرفته و منحرف نیستند؟

شیطان در بین برخی از بزرگان صوفیه از جایگاه ویژه‌ای برخوردار بوده است و کسانی همچون حلاج و غزالی از سینه‌چاکان شیطان به شمار می‌آیند و او را سید الموحدین معرفی کرده‌اند، ولی عین القضات همدانی بیشتر از همه صوفیان، سنگ شیطان را به سینه زده است و او را معلم فرشتگان دانسته و کسی از اسرار او آگاه نشد.

برخی از تذکره‌نویسان صوفی درباره بزرگان خود آنقدر غلو کرده‌اند که تشخیص صحت و عدم صحت سخن ایشان یا ممکن نیست یا اینکه به سختی ممکن است. از جمله افرادی که روایات گوناگونی درباره چگونگی پیوستن او به صوفیه مطرح شده است، ابراهیم ادهم است که انگیزه اصلی پیوستن او به صوفیه با بیان روایات متفاوت پنهان مانده است.

حسن بصری از بزرگان صوفیه است که درباره آن داوریهای متفاوتی شده است. برخی او را از خواص یاران حضرت امیرالمومنین علی(علیه السلام) دانسته و برخی دیگر او را مخالف حضرت علی (علیه السلام) می‌دانند. اما نمونه‌های مخالفت او با امیرالمومنین (ع) و انحراف در عقاید او و حمایت از خلفای هم‌عصرش را نمی‌توان از نظر دور داشت.

ابوریحان بیرونی درباره‌ی حلاج می‌نویسد: مردی متصوف از اهل فارس به نام حسین بن‌ منصور حلاج ظهور کرد و در آغاز کار، مردم را به مهدی دعوت نمود و گفت او از طالقان ظهور خواهد کرد و از اینرو حلاج را گرفته در زندانش بیفکندند، ولی حیله‌ای کرد و از زندان گریخت. و این مرد شعبده باز بود و با هر کسی که روبرو می‌شد موافق اعتقاد او سخن می‌راند و خود را به لطایف حیل، بدو می‌چسبانید.

حلاج کسی است که به اتهامات مختلف حکم به تکفیر او داده شد. صوفیان درباره اتهام او می گویند حلاج به علت آنکه اسرار را فاش کرد متهم شد و سرانجام اعدام گردید. آنچه که در میان عامه مردم مطرح است آن است که فقها تنها گروهی بودند که او را تکفیر کردند. اما با بررسی‌های صورت گرفته معلوم می‌شود علاوه بر فقها تعدادی از صوفیان مطرح زمان حلاج معتقد به انحراف فکری و عقیدتی حلاج بودند.