Warstwowy przegląd kluczowych koncepcji Agentic AI. Zrozummy to warstwa po warstwie. 1) LLM (warstwa podstawowa) W centrum znajdują się LLM, takie jak GPT, DeepSeek itp. Kluczowe pomysły: - Tokenizacja i parametry wnioskowania: jak tekst jest dzielony na tokeny i przetwarzany przez model. - Inżynieria podpowiedzi: projektowanie wejść, aby uzyskać lepsze wyniki. - API LLM: programowe interfejsy do interakcji z modelem. To jest silnik, który napędza wszystko inne. 2) Agenci AI (oparte na LLM) Agenci otaczają LLM, aby nadać im zdolność do działania autonomicznie. Kluczowe odpowiedzialności: - Użycie narzędzi i wywoływanie funkcji: łączenie LLM z zewnętrznymi API/narzędziami. - Rozumowanie agentów: metody rozumowania, takie jak ReAct (rozumowanie + działanie) lub Chain-of-Thought. - Planowanie zadań i dekompozycja: dzielenie dużego zadania na mniejsze. - Zarządzanie pamięcią: śledzenie historii, kontekstu i informacji długoterminowych. Agenci są mózgami, które sprawiają, że LLM są użyteczne w rzeczywistych przepływach pracy. 3) Systemy agentowe (systemy wieloagentowe) Gdy połączysz wiele agentów, otrzymasz systemy agentowe. Cechy: - Komunikacja międzyagentowa: agenci rozmawiają ze sobą, korzystając z protokołów takich jak ACP, A2A, jeśli to konieczne. - Routing i harmonogramowanie: decydowanie, który agent zajmuje się czym i kiedy. - Koordynacja stanu: zapewnienie spójności, gdy wiele agentów współpracuje. - Multi-Agent RAG: wykorzystanie generacji wzbogaconej o wyszukiwanie wśród agentów. - Role agentów i specjalizacja: agenci o unikalnych celach. - Ramy orkiestracji: narzędzia (takie jak CrewAI itp.) do budowania przepływów pracy. Ta warstwa dotyczy współpracy i koordynacji między agentami. 4) Infrastruktura agentowa Najwyższa warstwa zapewnia, że te systemy są solidne, skalowalne i bezpieczne. To obejmuje: - Obserwowalność i logowanie: śledzenie wydajności i wyników (przy użyciu ram, takich jak DeepEval). - Obsługa błędów i ponowne próby: odporność na awarie. - Bezpieczeństwo i kontrola dostępu: zapewnienie, że agenci nie przekraczają swoich uprawnień. - Ograniczanie tempa i zarządzanie kosztami: kontrolowanie wykorzystania zasobów. - Automatyzacja przepływu pracy: integracja agentów w szersze procesy. - Kontrole z udziałem człowieka: umożliwienie nadzoru i interwencji człowieka. Ta warstwa zapewnia zaufanie, bezpieczeństwo i skalowalność dla środowisk przedsiębiorstw/produkcji. Agentic AI jako całość obejmuje architekturę warstwową, w której każda zewnętrzna warstwa dodaje niezawodność, koordynację i zarządzanie nad wewnętrznymi warstwami.