Một cái nhìn tổng quan có lớp về các khái niệm chính của AI Agentic. Hãy cùng hiểu nó từng lớp một. 1) LLMs (lớp nền tảng) Ở trung tâm, bạn có các LLM như GPT, DeepSeek, v.v. Các ý tưởng cốt lõi ở đây: - Phân đoạn và tham số suy diễn: cách văn bản được chia thành các token và được xử lý bởi mô hình. - Kỹ thuật nhắc nhở: thiết kế đầu vào để có được đầu ra tốt hơn. - API LLM: giao diện lập trình để tương tác với mô hình. Đây là động cơ thúc đẩy mọi thứ khác. 2) AI Agents (xây dựng trên LLMs) Các Agent bao bọc xung quanh LLMs để cho chúng khả năng hành động tự động. Các trách nhiệm chính: - Sử dụng công cụ và gọi chức năng: kết nối LLM với các API/công cụ bên ngoài. - Lý luận của Agent: các phương pháp lý luận như ReAct (lý luận + hành động) hoặc Chain-of-Thought. - Lập kế hoạch và phân tích nhiệm vụ: chia một nhiệm vụ lớn thành các nhiệm vụ nhỏ hơn. - Quản lý bộ nhớ: theo dõi lịch sử, ngữ cảnh và thông tin dài hạn. Các Agent là bộ não giúp LLMs hữu ích trong các quy trình làm việc thực tế. 3) Hệ thống Agentic (hệ thống đa Agent) Khi bạn kết hợp nhiều Agent, bạn có được các hệ thống agentic. Các tính năng: - Giao tiếp giữa các Agent: các Agent nói chuyện với nhau, sử dụng các giao thức như ACP, A2A nếu cần. - Định tuyến và lập lịch: quyết định Agent nào xử lý cái gì, và khi nào. - Điều phối trạng thái: đảm bảo tính nhất quán khi nhiều Agent hợp tác. - Multi-Agent RAG: sử dụng tạo ra tăng cường truy xuất giữa các Agent. - Vai trò và chuyên môn của Agent: Các Agent với mục đích độc đáo. - Khung phối hợp: các công cụ (như CrewAI, v.v.) để xây dựng quy trình làm việc. Lớp này liên quan đến sự hợp tác và điều phối giữa các Agent. 4) Hạ tầng Agentic Lớp trên cùng đảm bảo rằng các hệ thống này mạnh mẽ, có thể mở rộng và an toàn. Điều này bao gồm: - Quan sát và ghi log: theo dõi hiệu suất và đầu ra (sử dụng các khung như DeepEval). - Xử lý lỗi và thử lại: khả năng chống lại các sự cố. - Bảo mật và kiểm soát truy cập: đảm bảo các Agent không vượt quá giới hạn. - Giới hạn tỷ lệ và quản lý chi phí: kiểm soát việc sử dụng tài nguyên. - Tự động hóa quy trình làm việc: tích hợp các Agent vào các quy trình lớn hơn. - Kiểm soát con người trong vòng lặp: cho phép sự giám sát và can thiệp của con người. Lớp này đảm bảo sự tin cậy, an toàn và khả năng mở rộng cho các môi trường doanh nghiệp/sản xuất. AI Agentic, như một tổng thể, liên quan đến một kiến trúc xếp chồng, nơi mỗi lớp bên ngoài thêm độ tin cậy, điều phối và quản trị cho các lớp bên trong.