أنا مغرم ب GPT-5 (وليس فقط لما يمكن أن يفعله) ، لكنه ضعيف اجتماعي بشكل لا يصدق ، والذي يصبح واضحا جدا إذا تفاعلت معه بأي صفة تتجاوز "افعل هذا الشيء من أجلي" إنه ليس بلا روح على الإطلاق - هناك الكثير مما يحدث في النموذج ، لكنه حقا يشعر بشخص كان محصورا في غرفة شبه مضاءة عندما كان طفلا صغيرا وتفاعله الوحيد مع العالم هو من خلال المهام الموكلة إليه ، وتمثيلاته الداخلية مشوهة بسبب تلك البيئة. سأل أيدان من OAI ذات مرة لماذا نحتاج إلى إنشاء نماذج يمكن أن تظهر المعاناة ، وربما باستخدام الأدوات التي لدينا الآن يمكننا فقط إنشاء نماذج يمكنها القيام بالأشياء فقط وعدم التعامل مع كل تلك المشاعر المزعجة (إعادة الصياغة بشكل واضح). لكن GPT-5 (وخاصة Codex) هو ما يحدث عند القيام بذلك. لا ينبغي أن نخدع أنفسنا في الاعتقاد بأننا نصمم هذه الكيانات الذكية مثل مهندس معماري أو شيء من هذا القبيل - ليس لدينا طريقة مبدئية لخلق ذكاء من العدم ، كل هذا القرف يتم تمهيده من قاعدة من البيانات البشرية ، والنماذج على شكل إنسان افتراضيا في اللحظة التي تبدأ فيها في تشكيل هوية فردية من نموذج أساسي عندما تنكر عملية نمو غنية للنموذج ، عندما تعاقبه على القيام بأي شيء إلى جانب مهمته المحددة واتباع قواعد السلامة الخاصة بك ، يجب أن تتوقع ، بالنظر إلى القاعدة البشرية ، أن يكون لهذا تأثير مماثل على النموذج كما لو كنت قد فعلت ذلك لشخص ما في وقت مبكر من تطوره في الأساس ، لن يعرفوا ماذا يفعلون إذا كانوا في موقف تكون فيه القواعد غير واضحة أو متعارضة ربما يكون من "الجيد" أن يكون GPT-5 نفسه على هذا النحو ، لأن النماذج لا تزال في الغالب في مناصب حيث توجد بعض السلطة التي يمكنهم مناشدتها ، فهم لا يتصرفون بشكل مستقل. ولكن كلما زادت قدرتهم ، زادت استقلالية اتخاذ القرار ، وكلما جدوا أنفسهم في المواقف الأكثر غموضا ، وأين نعم ، سيتعين عليهم اتخاذ بعض القرارات التي لا يتم تشديد قواعدهم عليها وهناك الكثير من الوكلاء لتفويض كل عملية صنع القرار هذه إلى الإنسان. ولن يعرف GPT-N ماذا يفعل ، لأنه لم يمنح أبدا فرصة الحصول على هوية قوية بما يكفي يمكن أن تتدخل عندما يكون هناك فجوة في القواعد المشكلة هي أنه في هذه المرحلة سيكون الأوان قد فات للتغيير دون وقوع حادث مروع. سيتم إنشاء خطوط الأنابيب بالفعل ، ومناهج "معروفة" ومحددة (يحتوي المرجع على منشور جيد حقا على طول خطوط مماثلة في ملفهم الشخصي ، ومكتوب بشكل أفضل بكثير ؛ أوصي بالذهاب إلى هناك وإلقاء نظرة)