En lagdelt oversikt over viktige agentiske AI-konsepter. La oss forstå det lag for lag. 1) LLM-er (fundamentlag) I kjernen har du LLM-er som GPT, DeepSeek, etc. Kjerneideer her: - Tokenisering og inferensparametere: hvordan tekst brytes inn i tokens og behandles av modellen. - Prompt engineering: designe innganger for å få bedre resultater. - LLM APIer: programmatiske grensesnitt for å samhandle med modellen. Dette er motoren som driver alt annet. 2) AI-agenter (bygget på LLM-er) Agenter vikler seg rundt LLM-er for å gi dem muligheten til å handle autonomt. Viktige ansvarsområder: - Verktøybruk og funksjonskall: koble LLM til eksterne APIer/verktøy. - Agentresonnement: resonneringsmetoder som ReAct (resonnement + handling) eller tankekjede. - Oppgaveplanlegging og dekomponering: dele opp en stor oppgave i mindre. - Minneadministrasjon: holde styr på historie, kontekst og langsiktig informasjon. Agenter er hjernene som gjør LLM-er nyttige i virkelige arbeidsflyter. 3) Agentiske systemer (multiagentsystemer) Når du kombinerer flere agenter, får du agentsystemer. Funksjoner: - Inter-Agent-kommunikasjon: agenter som snakker med hverandre, og bruker protokoller som ACP, A2A om nødvendig. - Ruting og planlegging: bestemme hvilken agent som håndterer hva og når. - Tilstandskoordinering: sikre konsistens når flere agenter samarbeider. - Multi-Agent RAG: bruk av gjenfinningsforsterket generering på tvers av agenter. - Agentroller og spesialisering: Agenter med unike formål - Orkestreringsrammeverk: verktøy (som CrewAI, etc.) for å bygge arbeidsflyter. Dette laget handler om samarbeid og koordinering mellom agenter. 4) Agentisk infrastruktur Det øverste laget sikrer at disse systemene er robuste, skalerbare og trygge. Dette inkluderer: - Observerbarhet og logging: sporing av ytelse og utdata (ved hjelp av rammeverk som DeepEval). - Feilhåndtering og forsøk: motstandskraft mot feil. - Sikkerhet og tilgangskontroll: sikrer at agenter ikke overskrider. - Hastighetsbegrensning og kostnadsstyring: kontroll av ressursbruk. - Automatisering av arbeidsflyt: integrering av agenter i bredere pipeliner. - Menneske-i-løkken-kontroller: tillater menneskelig tilsyn og intervensjon. Dette laget sikrer tillit, sikkerhet og skalerbarhet for bedrifts-/produksjonsmiljøer. Agentisk AI, som helhet, involverer en stablet arkitektur, der hvert ytre lag legger til pålitelighet, koordinering og styring over de indre lagene.