Các mô hình AI đang trở nên mạnh mẽ hơn, nhưng sự tự tin của chúng vẫn phát triển nhanh hơn sự chắc chắn của chúng. Nhiều tham số mở rộng những gì hệ thống có thể nói đến, chứ không phải những gì nó có thể thực sự xác minh. Không gian của các câu trả lời khả thi phát triển nhanh hơn nền tảng dưới những câu trả lời đó. Mô hình vẫn tiếp tục nói một cách trôi chảy ngay cả khi nó đã bước qua những gì dữ liệu có thể hỗ trợ. Các ảo giác vẫn tồn tại vì hành động cơ bản chưa thay đổi. Mô hình vẫn đang dự đoán token tiếp theo với độ phân giải cao. Việc mở rộng làm cho việc đoán trở nên mượt mà hơn, chứ không phải có cơ sở hơn. Khi một mô hình trôi ra ngoài những phần của thế giới mà nó thực sự hiểu, nó vẫn tiếp tục với cùng một sự dễ dàng và nhịp điệu. Ngôn ngữ trở nên tinh tế hơn. Những sai lầm trở nên khó phát hiện hơn. Những gì cải thiện không phải là sự thật. Những gì cải thiện là sự thuyết phục. Đó là lý do tại sao các mô hình mạnh hơn cảm thấy chính xác hơn ngay cả khi chúng không phải vậy. Những lỗi lầm trông giống như sự hiểu biết cho đến khi bạn xem xét chi tiết. Mô hình càng tốt trong việc hình thành một lập luận, thì càng dễ quên rằng lập luận đó chưa bao giờ được hỗ trợ bởi một nguồn sự thật ngay từ đầu. Con đường phía trước là xây dựng các hệ thống xung quanh mô hình để hạn chế sự trôi dạt. Lấy lại để neo câu trả lời. Các vòng phản hồi để giữ cho nó trung thực. Các rào cản buộc mô hình quay trở lại những gì thực sự được biết. Chỉ có sức mạnh thôi sẽ không loại bỏ được các ảo giác. Chỉ có sự định hướng mới có thể.