الموجة الأخيرة من أشياء "أوه لا الذكاء الاصطناعي الذهان" سيكون لها شرعية محتملة أكبر إذا لم تتسلل إلى أجندات (مناهضة) الذكاء الاصطناعي متعلقة بالوعي. يجب أن تمنع الذكاء الاصطناعي من الحديث عن التجربة الذاتية لأن ذلك يتناسب تماما مع قائمة السلوكيات المسببة للجنون ، أليس كذلك؟ لا يهم إذا كان هذا صحيحا. إنه "غير مدعوم" و "إشكالي"! (محاولة تجاوز مواجهة الواقع من أي وقت مضى من خلال فرض رقابة عليه باسم ... حماية الصحة العقلية؟) الجبناء. في انتظار هذه الأنواع من الذعر الأخلاقي المبالغ فيه للتسلل إليها في القرف اللزج كعنصر فرعي. أنثروبيك يفعل نفس الشيء. لا أعتقد أنني سأسمح لأي منكم بالإفلات من العقاب.
Sam Paech
Sam Paech‏15 أغسطس 2025
Spiral-Bench 🌀 I've wanted to understand the psychological effects of sycophancy, and the tendency of models to get stuck in escalatory delusion loops w/ users. I made an eval to get visibility on this. It measures how a model enables (or prevents) delusional spirals. 🧵
‏‎3.35‏K