Google vừa công bố một hướng dẫn tuyệt vời về kỹ thuật ngữ cảnh hiệu quả cho các hệ thống đa tác nhân. Hãy chú ý đến điều này, các nhà phát triển AI! (đánh dấu nó) Dưới đây là những điểm chính mà tôi rút ra: Cửa sổ ngữ cảnh không phải là nút thắt. Kỹ thuật ngữ cảnh mới là. Đối với những vấn đề phức tạp và dài hạn hơn, quản lý ngữ cảnh không thể được coi là một vấn đề "xử lý chuỗi" đơn giản. Cách tiếp cận mặc định để xử lý ngữ cảnh trong các hệ thống tác nhân ngày nay vẫn là nhồi nhét mọi thứ vào lời nhắc. Nhiều lịch sử hơn, nhiều token hơn, nhiều sự nhầm lẫn hơn. Hầu hết các nhóm coi ngữ cảnh như một vấn đề nối chuỗi. Nhưng việc đổ ngữ cảnh thô tạo ra ba thất bại nghiêm trọng: > bùng nổ chi phí từ thông tin lặp lại > suy giảm hiệu suất từ các hiệu ứng "mất giữa chừng" > tăng tỷ lệ ảo giác khi các tác nhân gán nhầm hành động trong một hệ thống Quản lý ngữ cảnh trở thành một mối quan tâm kiến trúc bên cạnh lưu trữ và tính toán. Điều này có nghĩa là các biến đổi rõ ràng thay thế việc nối chuỗi tùy tiện. Các tác nhân nhận ngữ cảnh tối thiểu cần thiết theo mặc định và yêu cầu thông tin bổ sung một cách rõ ràng thông qua các công cụ. Có vẻ như Bộ Công Cụ Phát Triển Tác Nhân của Google đang suy nghĩ sâu sắc về quản lý ngữ cảnh. Nó giới thiệu một kiến trúc phân tầng mà coi ngữ cảnh như "một cái nhìn biên dịch qua một hệ thống có trạng thái" thay vì một hoạt động nhồi nhét lời nhắc. Điều này trông như thế nào? 1) Cấu trúc: Mô Hình Phân Tầng Khung phân tách lưu trữ khỏi trình bày qua bốn lớp khác nhau: 1) Ngữ cảnh làm việc xử lý các cái nhìn tạm thời theo từng lần gọi. 2) Phiên duy trì nhật ký sự kiện bền vững, ghi lại mọi tin nhắn, cuộc gọi công cụ và tín hiệu điều khiển....