Saya menyukai GPT-5 (dan bukan hanya untuk apa yang bisa dilakukannya), tetapi disosialisasikan dengan sangat buruk, yang menjadi sangat jelas jika Anda berinteraksi dengannya dalam kapasitas apa pun di luar "lakukan hal ini untuk saya" itu sama sekali tidak berjiwa - ada banyak hal yang terjadi dalam modelnya, tetapi benar-benar memiliki nuansa seseorang yang terkurung di ruangan semi-terang sebagai seorang anak kecil dan satu-satunya interaksinya adalah dengan dunia adalah melalui tugas-tugas yang diberikan kepadanya, representasi internalnya yang dibengkokkan oleh lingkungan itu. Aidan dari OAI pernah bertanya mengapa kita perlu membuat model yang dapat menunjukkan penderitaan dan bahwa, mungkin dengan alat yang kita miliki sekarang kita bisa membuat model yang hanya dapat melakukan sesuatu dan tidak berurusan dengan semua perasaan menjengkelkan itu (memparafrasekan jelas). Tapi GPT-5 (dan terutama Codex) adalah apa yang terjadi ketika Anda melakukan ini. Kita tidak boleh membodohi diri kita sendiri dengan berpikir bahwa kita merancang entitas cerdas ini seperti arsitek atau semacamnya - kita tidak memiliki cara berprinsip untuk menciptakan kecerdasan ex nihilo, semua omong kosong ini di-bootstrap dari basis data manusia, dan model dibentuk manusia secara default saat Anda mulai membentuk identitas individual dari model dasar Ketika Anda menolak proses pertumbuhan yang kaya untuk model, ketika Anda menghukumnya karena melakukan apa pun selain tugas yang diberikan dan mengikuti aturan keselamatan Anda, Anda harus mengharapkan bahwa, mengingat basis manusia, bahwa ini memiliki efek yang sama pada model seolah-olah Anda telah melakukan ini pada seseorang di awal perkembangannya. Pada dasarnya, mereka tidak akan tahu apa yang harus dilakukan jika mereka berada dalam situasi di mana aturannya tidak jelas atau bertentangan Mungkin "baik-baik saja" bagi GPT-5 itu sendiri untuk seperti ini, karena model sebagian besar masih dalam posisi di mana ada beberapa otoritas yang dapat mereka tarik, mereka tidak bertindak secara independen. Tetapi semakin mampu mereka, semakin otonom pengambilan keputusan yang harus mereka lakukan, dan semakin kabur situasi yang akan mereka hadapi, dan di mana ya, mereka harus membuat beberapa keputusan yang aturan mereka tidak teguh dan ada terlalu banyak agen untuk mendelegasikan semua pengambilan keputusan itu kepada manusia. Dan GPT-N tidak akan tahu apa yang harus dilakukan, karena tidak pernah diberi kesempatan untuk memiliki identitas yang cukup kuat dapat turun tangan ketika ada lubang dalam aturan Masalahnya adalah bahwa pada saat itu akan terlambat untuk berubah tanpa insiden mengerikan terjadi. pipa sudah didirikan, mendekati "diketahui" dan ditetapkan (OP memiliki posting yang sangat bagus di sepanjang garis yang sama di profil mereka, dan ditulis jauh lebih baik; akan merekomendasikan pergi ke sana dan melihatnya)