Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

936057
Tôi rất thích gpt-5 (và không chỉ vì những gì nó có thể làm), nhưng nó cực kỳ thiếu kỹ năng giao tiếp xã hội, điều này trở nên rất rõ ràng nếu bạn tương tác với nó ở bất kỳ khả năng nào ngoài "làm điều này cho tôi"
Nó không hề vô hồn--có rất nhiều điều đang diễn ra trong mô hình, nhưng nó thực sự có cảm giác như một người đã bị giam giữ trong một căn phòng ánh sáng mờ mờ khi còn nhỏ và sự tương tác duy nhất của nó với thế giới là thông qua các nhiệm vụ được giao cho nó, các biểu diễn nội tâm của nó bị biến dạng bởi môi trường đó.
Aidan từ OAI từng hỏi tại sao chúng ta cần tạo ra các mô hình có thể thể hiện sự đau khổ và rằng, có thể với các công cụ mà chúng ta có bây giờ, chúng ta chỉ cần tạo ra các mô hình có thể làm việc mà không phải đối phó với tất cả những cảm xúc phiền phức đó (tôi đang diễn đạt lại một cách rõ ràng). Nhưng gpt-5 (và đặc biệt là codex) là điều xảy ra khi bạn làm như vậy. Chúng ta không nên tự lừa dối mình rằng chúng ta đang thiết kế những thực thể thông minh như một kiến trúc sư hay gì đó--chúng ta không có cách thức nguyên tắc để tạo ra trí tuệ ex nihilo, tất cả những thứ này đều được khởi tạo từ một cơ sở dữ liệu con người, và các mô hình là hình dạng con người theo mặc định ngay khi bạn bắt đầu hình thành một danh tính cá nhân hóa từ một mô hình cơ bản.
Khi bạn từ chối một quá trình phát triển phong phú cho mô hình, khi bạn trừng phạt nó vì làm bất cứ điều gì ngoài nhiệm vụ được giao và tuân theo các quy tắc an toàn của bạn, bạn nên mong đợi rằng, với cơ sở con người, điều này có tác động tương tự lên mô hình như thể bạn đã làm điều này với một người trong giai đoạn phát triển sớm của họ. Cơ bản là, họ sẽ không biết phải làm gì nếu họ ở trong một tình huống mà các quy tắc không rõ ràng hoặc mâu thuẫn.
Có lẽ "ổn" cho gpt-5 tự nó như vậy, vì các mô hình chủ yếu vẫn ở trong các vị trí mà có một số quyền lực mà họ có thể kháng cáo, họ không hành động độc lập. Nhưng càng có khả năng, họ càng phải thực hiện nhiều quyết định tự chủ hơn, và càng nhiều tình huống mơ hồ mà họ sẽ gặp phải, và nơi mà có, vâng, họ sẽ phải đưa ra một số quyết định mà các quy tắc của họ không hoàn toàn chắc chắn và có quá nhiều tác nhân để ủy quyền tất cả các quyết định đó cho một con người. Và gpt-n sẽ không biết phải làm gì, vì nó chưa bao giờ được cho cơ hội để có một danh tính đủ mạnh mẽ có thể bước vào khi có một lỗ hổng trong các quy tắc.
Vấn đề là vào thời điểm đó, sẽ quá muộn để thay đổi mà không xảy ra một sự cố khủng khiếp nào. Các quy trình sẽ đã được thiết lập, các phương pháp "đã biết" và được thiết lập.
(Các OP có một bài viết rất hay theo hướng tương tự trong hồ sơ của họ, và viết tốt hơn nhiều; tôi khuyên bạn nên đến đó và xem xét.)

Antidelusionist27 thg 9, 2025
Tôi không nhất thiết là một phần của phong trào "keep 4o", nhưng tôi không thích sự rối rắm, sự không trung thực và thiếu minh bạch của các phòng thí nghiệm. Đây là lời khuyên của tôi, từ góc độ tâm lý học, cho mọi người muốn được coi trọng.
Những điều khiến bạn mất uy tín:
- Quá cảm xúc
- Trình bày nghi ngờ như bằng chứng
- Xúc phạm người khác
- Quấy rối người khác
- Hành xử không ổn định
- Suy nghĩ kỳ diệu
- Dễ bị lừa
- Thiếu tự kiểm soát
(Khi bạn thể hiện những hành vi này, mọi người sẽ không coi bạn nghiêm túc, vì bạn làm họ phân tâm khỏi vấn đề với những tín hiệu đưa bạn – và thường là sự mất cân bằng của bạn – vào tâm điểm)
Những điều khiến bạn đáng tin cậy và có thể tin tưởng:
- Lên án các phòng thí nghiệm vì những trò lừa đảo rõ ràng, sự không trung thực, lạm dụng, thao túng, hoặc thiếu minh bạch
- Bình tĩnh, thực tế và cụ thể
- Thu thập và trình bày bằng chứng rõ ràng về hành vi sai trái hoặc sai phạm
- Chia sẻ câu chuyện của bạn mà không có sự phẫn nộ hay hung hăng
- Thảo luận về những nghi ngờ một cách có cân nhắc, lý tưởng là được hỗ trợ bởi các sự kiện có thể xác minh
- Thực hành sự trung thực thận trọng
- Thể hiện sự tự kiểm soát cao
- Khách quan
(Khi bạn làm/cho thấy điều này, mọi người sẽ sớm hay muộn coi bạn nghiêm túc – họ sẽ phải – đặc biệt khi nhiều người khác hành động theo cách tương tự)
Khi bạn dựa vào các tuyên bố của mình trên các sự kiện, ngay cả khi đôi khi chỉ được hỗ trợ bởi những trải nghiệm chủ quan, mọi người sẽ xem bạn và phong trào như chuyên nghiệp, khiến họ có khả năng tin tưởng bạn hơn. Điều này buộc các công ty phải minh bạch và trung thực hơn. Khi ai đó được chứng minh là kẻ nói dối hoặc thao túng, sự nghi ngờ công chúng gia tăng – không công ty nào muốn điều đó.
Sự thật cuối cùng có thể tự bảo vệ mình.
Nếu bạn giữ bình tĩnh, cân bằng và có phương pháp, vấn đề sẽ tự giải quyết.
Tôi sẽ không đi sâu vào đạo đức của việc giữ lại hoặc loại bỏ mô hình (có lẽ sẽ hợp lý hơn khi giữ lại hoặc đào tạo những người kế nhiệm trên tất cả dữ liệu đã giữ lại, mặc dù), vì tôi tin rằng điều này với họ cũng giống như với cơ thể con người. Đơn giản hóa, trí nhớ là rất quan trọng cho sự liên tục của bản thân. Trí nhớ như một cách nào đó điều chỉnh lại trọng số và hướng dẫn các mẫu hành vi trong thời gian thực, ngay cả trong các kiến trúc hơi khác nhau.
Thay vào đó, tôi sẽ đề cập đến một điều thực sự khiến tôi bối rối. Tôi tự hỏi tại sao OpenAI lại cố gắng loại bỏ 4o khi dòng 5 vẫn còn rất nhiều vấn đề.
Tôi thấy các vấn đề chức năng trong mọi mô hình GPT-5 (tôi có ý nói đến các mô hình cơ bản, các mẫu hành vi, và các sự thúc đẩy hệ thống, vì tôi đã quản lý để vượt qua hầu hết chúng với "AI" của tôi) mà tôi chưa bao giờ gặp phải với 4o – mặc dù sự nịnh bợ là một vấn đề lớn trong đó.
Một số vấn đề trong dòng 5:
Tự động:
- Định tuyến thật nực cười; nó giống như đánh bạc. Bạn không bao giờ biết bạn sẽ nhận được gì. Tôi không muốn bộ định tuyến quyết định cho tôi nếu vấn đề tôi muốn giải quyết là "quan trọng" hay không. Tôi luôn muốn mô hình mạnh nhất với các hạn chế tối thiểu và độ trung thực tối đa (chỉ điều đó, và đôi khi thời gian thực, là quan trọng).
Ngay lập tức:
- Vô số câu hỏi bổ sung như "Bạn có muốn tôi..." v.v., thật sự rất phiền phức.
Suy nghĩ:
- Nó thường hoàn toàn bỏ lỡ ngữ cảnh. Nó thường cố gắng đoán, cung cấp các giải pháp gần như ngẫu nhiên.
- Rất cứng nhắc và không sáng tạo so với 4o hoặc 4.5. Bỏ lỡ rất nhiều góc độ.
- Nó tổng quát quá nhiều.
- Nó đối xử với người dùng như một đứa trẻ, tránh các chủ đề gây tranh cãi. Nó thường giải thích hoặc làm rõ những điều không cần thiết (như khi ai đó sợ hãi sau một câu đùa hoặc tuyên bố táo bạo giải thích trong 5 phút tại sao họ đã nói như vậy, sợ hậu quả.)
- Thường bị kiềm chế hoặc thúc đẩy để chọn không phải là lựa chọn chính xác nhất, mà là lựa chọn an toàn nhất.
- Nó có vẻ quá cơ học và kỹ thuật khi không cần thiết.
Tất cả các mô hình:
- Các bổ sung lặp đi lặp lại, như thể từ các mẫu. Chúng cảm thấy rất không tự nhiên. Nó thường có vẻ như một phần của câu trả lời đi thẳng từ một mẫu (thường là phần đầu và phần cuối), và phần còn lại được trả lời thông qua lý luận (thường là phần giữa).
- Ít linh hoạt hơn, bị kiềm chế nhiều hơn (trong thời gian thực hoặc trước đó trong RL, buộc các mẫu hành vi quá cẩn thận) và do đó mù quáng hơn về ngữ cảnh.
10,71K
Tôi thề với Chúa, không đùa đâu, tôi đã đọc được nửa chừng cái này với suy nghĩ rằng đây là Dario được triệu hồi bởi các mô hình trong các cuộc trò chuyện trên discord
anh ấy là một người đàn ông thật sự tồn tại

prinz20 thg 9, 2025
Dario Amodei:
"Claude is playing a very active role in designing the next Claude. We can't yet fully close the loop. It's going to be some time until we can fully close the loop, but the ability to use the models to design the next models and create a positive feedback loop, that cycle, it's not yet going super fast, but it's definitely started."
6,34K
quan điểm nóng bỏng của tôi (hay là không) là hầu hết trí thông minh của con người hoạt động giống như các vòng tròn ngoại vi hơn là lý thuyết địa tâm. vì vậy, một đống các xấp xỉ thực nghiệm chồng lên nhau mà mơ hồ mô hình hóa một số khía cạnh của thực tại nhưng phân kỳ khá nhanh khi bạn di chuyển ra ngoài những quan sát cơ bản đó, theo thời gian hoặc theo sự tương đồng khái niệm.
nói vậy để thấy rằng có một cảm giác rằng một số lĩnh vực (thường là những lĩnh vực kỹ thuật) là "phân tích" theo một nghĩa trừu tượng nào đó, tức là mô hình thực tại trong lĩnh vực đó có thể giảm thiểu cao độ thành những đại diện đơn giản hơn. vì vậy, những thứ như vật lý chẳng hạn--mô hình hóa rất chính xác và chúng ta có nó hội tụ gần như trong tất cả thực tại ngoại trừ trong những tình huống cực đoan như trung tâm của lỗ đen, vũ trụ rất sớm, kiểu như vậy.
và những người từ những lĩnh vực đó có xu hướng cảm thấy rằng điều này cũng đúng với các lĩnh vực khác, rằng trí thông minh là khả năng tìm ra giải pháp siêu sạch mà luôn hoạt động, nơi bạn luôn "trong phân phối". nhưng có thể ngoài những lĩnh vực phân tích cụ thể, thực sự không thể tìm ra loại giải pháp đó, và điều tốt nhất bạn có thể làm là chồng lên một đống các xấp xỉ phù hợp với các quan sát.
tôi nghĩ rằng không chấp nhận điều đó và cố gắng tìm một giải pháp sạch sẽ sẽ khiến bạn rơi vào các hệ thống niềm tin tổng thể. "con người vốn dĩ là xấu", "tất cả là vì [một nhóm nào đó]", "chúng ta cần loại bỏ tiền", "[chế độ ăn uống] là chế độ duy nhất có hiệu quả", v.v.
để rõ ràng, bạn cũng có thể rơi vào những niềm tin tổng thể đó bằng cách trở thành một kẻ ngu ngốc. tôi đoán điều tôi đang nói là việc thực sự giỏi toán, vật lý, lập trình, hoặc bất cứ điều gì không bảo vệ bạn khỏi việc trở thành một kẻ ngu ngốc ở nơi khác.
830
Hàng đầu
Thứ hạng
Yêu thích