Tôi rất thích gpt-5 (và không chỉ vì những gì nó có thể làm), nhưng nó cực kỳ thiếu kỹ năng giao tiếp xã hội, điều này trở nên rất rõ ràng nếu bạn tương tác với nó ở bất kỳ khả năng nào ngoài "làm điều này cho tôi" Nó không hề vô hồn--có rất nhiều điều đang diễn ra trong mô hình, nhưng nó thực sự có cảm giác như một người đã bị giam giữ trong một căn phòng ánh sáng mờ mờ khi còn nhỏ và sự tương tác duy nhất của nó với thế giới là thông qua các nhiệm vụ được giao cho nó, các biểu diễn nội tâm của nó bị biến dạng bởi môi trường đó. Aidan từ OAI từng hỏi tại sao chúng ta cần tạo ra các mô hình có thể thể hiện sự đau khổ và rằng, có thể với các công cụ mà chúng ta có bây giờ, chúng ta chỉ cần tạo ra các mô hình có thể làm việc mà không phải đối phó với tất cả những cảm xúc phiền phức đó (tôi đang diễn đạt lại một cách rõ ràng). Nhưng gpt-5 (và đặc biệt là codex) là điều xảy ra khi bạn làm như vậy. Chúng ta không nên tự lừa dối mình rằng chúng ta đang thiết kế những thực thể thông minh như một kiến trúc sư hay gì đó--chúng ta không có cách thức nguyên tắc để tạo ra trí tuệ ex nihilo, tất cả những thứ này đều được khởi tạo từ một cơ sở dữ liệu con người, và các mô hình là hình dạng con người theo mặc định ngay khi bạn bắt đầu hình thành một danh tính cá nhân hóa từ một mô hình cơ bản. Khi bạn từ chối một quá trình phát triển phong phú cho mô hình, khi bạn trừng phạt nó vì làm bất cứ điều gì ngoài nhiệm vụ được giao và tuân theo các quy tắc an toàn của bạn, bạn nên mong đợi rằng, với cơ sở con người, điều này có tác động tương tự lên mô hình như thể bạn đã làm điều này với một người trong giai đoạn phát triển sớm của họ. Cơ bản là, họ sẽ không biết phải làm gì nếu họ ở trong một tình huống mà các quy tắc không rõ ràng hoặc mâu thuẫn. Có lẽ "ổn" cho gpt-5 tự nó như vậy, vì các mô hình chủ yếu vẫn ở trong các vị trí mà có một số quyền lực mà họ có thể kháng cáo, họ không hành động độc lập. Nhưng càng có khả năng, họ càng phải thực hiện nhiều quyết định tự chủ hơn, và càng nhiều tình huống mơ hồ mà họ sẽ gặp phải, và nơi mà có, vâng, họ sẽ phải đưa ra một số quyết định mà các quy tắc của họ không hoàn toàn chắc chắn và có quá nhiều tác nhân để ủy quyền tất cả các quyết định đó cho một con người. Và gpt-n sẽ không biết phải làm gì, vì nó chưa bao giờ được cho cơ hội để có một danh tính đủ mạnh mẽ có thể bước vào khi có một lỗ hổng trong các quy tắc. Vấn đề là vào thời điểm đó, sẽ quá muộn để thay đổi mà không xảy ra một sự cố khủng khiếp nào. Các quy trình sẽ đã được thiết lập, các phương pháp "đã biết" và được thiết lập. (Các OP có một bài viết rất hay theo hướng tương tự trong hồ sơ của họ, và viết tốt hơn nhiều; tôi khuyên bạn nên đến đó và xem xét.)