Eine schichtweise Übersicht über wichtige Konzepte der Agentic AI. Lass uns das schichtweise verstehen. 1) LLMs (Grundschicht) Im Kern hast du LLMs wie GPT, DeepSeek usw. Kernideen hier: - Tokenisierung & Inferenzparameter: wie Text in Tokens zerlegt und vom Modell verarbeitet wird. - Prompt-Engineering: Eingaben gestalten, um bessere Ausgaben zu erhalten. - LLM-APIs: programmatische Schnittstellen zur Interaktion mit dem Modell. Das ist der Motor, der alles andere antreibt. 2) KI-Agenten (auf LLMs aufgebaut) Agenten umhüllen LLMs, um ihnen die Fähigkeit zu geben, autonom zu handeln. Wichtige Verantwortlichkeiten: - Werkzeugnutzung & Funktionsaufrufe: Verbindung des LLM mit externen APIs/Werkzeugen. - Agenten-Argumentation: Argumentationsmethoden wie ReAct (Argumentation + Handeln) oder Chain-of-Thought. - Aufgabenplanung & -zerlegung: eine große Aufgabe in kleinere zerlegen. - Gedächtnisverwaltung: Verfolgen von Geschichte, Kontext und langfristigen Informationen. Agenten sind die Gehirne, die LLMs in realen Arbeitsabläufen nützlich machen. 3) Agentische Systeme (Multi-Agenten-Systeme) Wenn du mehrere Agenten kombinierst, erhältst du agentische Systeme. Merkmale: - Inter-Agenten-Kommunikation: Agenten sprechen miteinander und nutzen bei Bedarf Protokolle wie ACP, A2A. - Routing & Planung: entscheiden, welcher Agent was und wann bearbeitet. - Zustandskoordination: Sicherstellen von Konsistenz, wenn mehrere Agenten zusammenarbeiten. - Multi-Agent RAG: Nutzung von retrieval-augmented generation über Agenten hinweg. - Agentenrollen & Spezialisierung: Agenten mit einzigartigen Zwecken. - Orchestrierungsframeworks: Werkzeuge (wie CrewAI usw.), um Arbeitsabläufe zu erstellen. Diese Schicht dreht sich um Zusammenarbeit und Koordination unter Agenten. 4) Agentische Infrastruktur Die oberste Schicht stellt sicher, dass diese Systeme robust, skalierbar und sicher sind. Das umfasst: - Beobachtbarkeit & Protokollierung: Verfolgen von Leistung und Ausgaben (unter Verwendung von Frameworks wie DeepEval). - Fehlerbehandlung & Wiederholungen: Resilienz gegen Ausfälle. - Sicherheit & Zugriffskontrolle: Sicherstellen, dass Agenten nicht über das Ziel hinausschießen. - Ratenbegrenzung & Kostenmanagement: Kontrolle der Ressourcennutzung. - Workflow-Automatisierung: Integration von Agenten in breitere Pipelines. - Mensch-in-der-Schleife-Kontrollen: Ermöglichung menschlicher Aufsicht und Intervention. Diese Schicht gewährleistet Vertrauen, Sicherheit und Skalierbarkeit für Unternehmens-/Produktionsumgebungen. Agentic AI umfasst insgesamt eine gestapelte Architektur, bei der jede äußere Schicht Zuverlässigkeit, Koordination und Governance über die inneren Schichten hinzufügt.