لم يشبه نمو قدرات نموذج الذكاء الاصطناعي الطريقة التي يتطور بها الذكاء البشري ، ولكن لا يزال هناك افتراض واسع الانتشار بين أنواع الذكاء الاصطناعي بأن الذكاء الاصطناعي العام أو الذكاء الفائق سيكون لهما ، حتما ، نفس توزيع القدرات مثل العباقرة البشريين.

ملاحظة كارباثي (أخرى أيضا) أن RL تنتج مجموعة من القدرات التي قد لا تتطور أبدا إلى AGI (أي أن توسيع نطاق بيانات التدريب وتحسين جودة البيانات قد لا يؤدي أبدا إلى نماذج وكيل افتراضي أو توليد رؤية جديدة أو w / e) قد تعمم أيضا

أي أنه لا يبدو لي أن هناك قانونا للكون ينص على أن الحزمة الكاملة من الذكاء البشري عبر السكان ستكون قابلة للتكرار باستخدام تقنيات التعلم الآلي على الإطلاق ، ناهيك عن أي اتجاه بحثي معين

يبدو من المعقول جدا بالنسبة لي (أحمق راجع للشغل) أنه يمكنك بناء نماذج الذكاء الاصطناعي العاملة للتعلم المستمر القادرة على القيام بكل أعمال المحلل القانوني من الدرجة الأولى تقريبا في شركة ، ولكن فقط 50 أو 60٪ من عمل باحث قانوني يعمل في مجال جديد

هذا واضح للمحامين بالمناسبة لأنهم يعرفون أن المحامين الذين يعملون في مجالات جديدة أو مجالات فرعية يصنعون القانون عن طريق القياس وما إلى ذلك.

ليس رجل فيزياء ولكن المكافئ هو أنه يمكنك استضافة 10,000 طالب دراسات عليا لتحسين الذات في مركز بيانات دون أن تكون قادرا على القيام بعمل أينشتاين واحد (أو أيا كان - idk إذا كان "عندما يحل الذكاء الاصطناعي العام محل أينشتاين" هو افتراضي مفيد على الإطلاق)

حتى لو افترضت أنه من الممكن تكرار البصيرة البشرية بشكل إجمالي مع ، على سبيل المثال ، مجموعة من العديد من بنى النماذج المختلفة بالتنسيق - وهذا يبدو لي يشبه إلى حد كبير نوع مشكلة التحسين الطحن التي أصبحت Tuning Frontier Model الآن.