Was ist ein KI-Agent? Definition, Beispiele und Grenzen

#Was ist ein KI-Agent?

Die nützlichste Definition lässt sich in einem Satz zusammenfassen: Ein Agent ist ein Sprachmodell, das Werkzeuge in einer Schleife nutzt. Sie geben ihm ein Ziel, beispielsweise „finde heraus, warum dieser Test fehlschlägt, und korrigiere ihn“. Der Agent liest den Code, führt den Test aus, liest die Fehlermeldung, ändert eine Datei, führt den Test erneut aus und macht weiter, bis der Test erfolgreich ist oder der Agent aufgibt. Niemand hat diese Abfolge im Voraus festgelegt: Das Modell entscheidet Schritt für Schritt anhand dessen, was es beobachtet.

Der Begriff leidet unter seinem eigenen Erfolg. Viele Produkte, die als „Agenten“ vermarktet werden, sind lediglich Chatbots mit einem Namen oder klassische Automatisierungen, bei denen ein Modell an einer festgelegten Stelle eines Skripts einen Text verfasst. Die entscheidende Frage ist: Wer bestimmt den nächsten Schritt? Wenn das ein vorab geschriebenes Programm mit einer festgelegten Abfolge von Aufrufen entscheidet, handelt es sich nicht um einen Agenten, selbst wenn irgendwo in der Kette ein Sprachmodell zum Einsatz kommt.

#Chatbot, Workflow, Agent: Die Unterschiede

Diese Unterscheidung trifft Anthropic in seinem Leitfaden zur Konzeption: „Workflows sind Systeme, in denen LLMs und Tools über vordefinierte Codepfade orchestriert werden“, während „Agenten Systeme sind, in denen LLMs ihren eigenen Prozess und den Einsatz von Tools dynamisch steuern und dabei die Kontrolle darüber behalten, wie Aufgaben erledigt werden“. Der daraus folgende Rat gilt für alle: die einfachste mögliche Lösung finden und die Komplexität nur erhöhen, wenn es nötig ist. Ein gut konzipierter Workflow ist einem Agenten bei den meisten Anforderungen von Unternehmen überlegen, weil er vorhersehbar und kostengünstig ist.

• „Building effective agents“ – der Leitfaden von Anthropic zur Konzeption

#Die vier Bausteine eines Agenten

Ein Modell

Das Gehirn. Es muss über mehrere Schritte hinweg schlussfolgern und korrekt formatierte Tool-Aufrufe erzeugen können. Das ist der Baustein, der alles andere begrenzt.

Werkzeuge

Funktionen, die das Modell aufrufen kann: Dateien lesen und schreiben, einen Befehl ausführen, im Web suchen, eine Datenbank abfragen. Das MCP-Protokoll ist zum Standardverfahren geworden, um sie anzubinden.

Eine Schleife

Das Programm, das folgende Schritte nacheinander ausführt: den Kontext an das Modell senden, das angeforderte Tool ausführen, das Ergebnis zum Kontext hinzufügen, von vorn beginnen. Die Schleife legt auch die Schutzvorkehrungen fest: maximale Anzahl an Schritten, Bestätigungen, Budget.

Ein Speicher

Kurzfristig das Kontextfenster, das sich mit jedem Schritt füllt und bei einer langen Aufgabe irgendwann voll ist. Langfristig Notizdateien, eine komprimierte Zusammenfassung der bisherigen Schritte oder eine Datenbank, die der Agent von Sitzung zu Sitzung erneut liest, damit er nicht bei jeder neuen Unterhaltung von vorne anfangen muss.

• MCP: das Protokoll, das Werkzeuge mit Modellen verbindet

#Das Prinzip hinter der Schleife: ReAct

Die meisten Agenten im produktiven Einsatz folgen, ohne es so zu nennen, dem Schema, das 2022 von Forschern von Google und Princeton unter dem Namen ReAct („Reasoning and Acting“) beschrieben wurde. Das Modell formuliert in jeder Runde einen expliziten Gedankengang (Thought), wählt eine Aktion, meist einen Toolaufruf (Action), und erhält anschließend das Ergebnis (Observation), bevor der Ablauf von vorn beginnt. Den Gedankengang vor der Aktion ausformulieren zu lassen, erleichtert die Fehlersuche beim Agenten: Man sieht, warum er ein bestimmtes Tool gewählt hat, nicht nur, was er getan hat.

• Quelle: der Forschungsartikel „ReAct: Synergizing Reasoning and Acting in Language Models“

#Beispiele, die tatsächlich funktionieren

Code-Agenten

Der ausgereifteste Anwendungsfall. Claude Code, Cline, OpenCode oder Aider lesen ein Repository, ändern mehrere Dateien, führen Tests aus und korrigieren ihre Fehler. Der Bereich eignet sich dafür: Das Ergebnis lässt sich automatisch überprüfen, anhand eines Tests, der besteht oder fehlschlägt.

Rechercheagenten

Sie führen Dutzende Suchanfragen durch, lesen die Seiten, gleichen die Quellen miteinander ab und verfassen eine Zusammenfassung. Das ist für die laufende Informationsbeobachtung oder einen Überblick über den Stand der Forschung nützlich, sofern die Zitate überprüft werden.

Betriebsagenten

Sie überwachen Protokolle, diagnostizieren einen Vorfall und schlagen eine Korrektur vor oder wenden sie an. Im Produktionsbetrieb fast immer mit menschlicher Freigabe vor jeder Aktion.

Desktop-Agenten

Sie steuern einen Browser oder einen Rechner mit Maus und Tastatur. Beeindruckende Demonstrationen, aber die Zuverlässigkeit reicht für einen Einsatz ohne Aufsicht noch nicht aus.

Was diese funktionierenden Fälle gemeinsam haben: ein objektives Erfolgskriterium, das sich schnell überprüfen lässt. Ein Test, der besteht oder fehlschlägt, eine korrekt strukturierte Datei, ein Vorfall, der behoben ist oder nicht. Wenn der Erfolg von einem vagen menschlichen Urteil abhängt, etwa bei „Verfasse eine überzeugende Marketingstrategie“, bringt die Agentenschleife gegenüber einem einfachen Austausch mit dem Modell wenig, weil sich zwischen zwei Schritten nichts Objektives beobachten lässt, das den nächsten Schritt steuern könnte.

#Warum Agenten scheitern

Der erste Grund ist arithmetischer Natur. In einer Schleife multiplizieren sich Fehler, statt sich gegenseitig aufzuheben. Ein Modell, das bei jedem einzelnen Schritt zu 95 % zuverlässig ist, schließt eine Aufgabe mit zehn Schritten nur in 60 % der Fälle korrekt ab und eine Aufgabe mit zwanzig Schritten in gerade einmal 36 % der Fälle, ohne dass irgendein Schritt für sich genommen wirklich schlecht wäre.

Deshalb sind Agenten dort erfolgreich, wo sie ihre Ergebnisse selbst überprüfen können, etwa indem sie einen Test erneut ausführen, und enttäuschen andernorts. Daraus ergeben sich die weiteren Grenzen: die Kosten, da eine Aufgabe Dutzende von Aufrufen erfordert und der Kontext wächst; die Sicherheit, da ein Agent, der externe Inhalte liest, durch diese Inhalte manipuliert werden kann; und das Abdriften, wenn der Agent ein falsch verstandenes Ziel gewissenhaft verfolgt.

Das Evaluierungslabor METR misst diesen Fortschritt mit einer Kennzahl namens „time horizon“: der Dauer einer Aufgabe für einen Menschen, die das jeweils beste Modell mit einer Erfolgsquote von 50 % bewältigen kann. Laut METR folgt diese Dauer seit 2019 einem exponentiellen Trend mit einer Verdopplungszeit von etwa sieben Monaten. Für den Zeitraum seit 2023 hat METR eine Beschleunigung auf eine Verdopplungszeit von etwas mehr als vier Monaten gemessen. Konkret hat ein Agent, der vor einem Jahr an einer einstündigen Aufgabe scheiterte, heute gute Chancen, sie zu bewältigen; die Grenze verschiebt sich, sie verschwindet nicht.

• Quelle: METR, « Measuring AI Ability to Complete Long Tasks »

#Ein lokaler KI-Agent: Was dafür nötig ist

Ein Agent muss nicht auf die Cloud zurückgreifen. Die Schleife und die Tools laufen bereits auf Ihrem Rechner; nun muss dort noch das Modell laufen, das sie steuert. Drei Anforderungen sind strenger als bei einem einfachen Chat, bei dem ein kleineres und langsameres Modell ausreichen kann.

In der Praxis ermöglicht eine Grafikkarte mit 16 GB einen brauchbaren Agenten für kurze Aufgaben, und 24 GB bieten mehr Spielraum. Darunter funktioniert der Agent für Demonstrationen, enttäuscht aber im Alltag.

Ein häufig übersehener Punkt: Der Speicherbedarf eines lokalen Agenten beschränkt sich nicht auf den VRAM für die Modellgewichte. Jedes angebundene Tool fügt dem Prompt in jeder Runde seine Beschreibung hinzu, und auch diese Beschreibung beansprucht während der gesamten Schleife KV-Cache und damit VRAM. Bei einem Modell mit 14 Milliarden Parametern und einem halben Dutzend gut beschriebener Tools sollten Sie allein für die Tooldefinitionen mit einigen Hundert Megabyte KV-Cache rechnen, noch bevor der Gesprächskontext hinzukommt.

• Rangliste: Die besten lokalen LLM für Agenten
• Einen lokalen KI-Agenten erstellen: Architektur und empfohlene Tools
• Tutorial: Ein lokaler Agent in Python mit LangChain und Ollama

#Wo beginnen?

1. 01
   Verwenden Sie einen vorhandenen Agenten, bevor Sie einen erstellen

   Ein Code-Agent in Ihrem Editor oder Terminal zeigt Ihnen innerhalb einer Woche, was diese Systeme können und wo sie an ihre Grenzen stoßen.
2. 02
   Wählen Sie eine überprüfbare Aufgabe

   Eine Aufgabe, deren Erfolg sich ohne Sie messen lässt: ein bestandener Test, eine Datei, die im richtigen Format erstellt wurde, eine Summe, die stimmt.
3. 03
   Beschränken Sie die Tools

   Drei gut beschriebene Werkzeuge sind besser als dreißig. Jedes zusätzliche Werkzeug erhöht das Risiko einer falschen Auswahl und vergrößert den Kontext.
4. 04
   Behalten Sie bei irreversiblen Aktionen die Kontrolle

   Lesen ohne Freigabe, Schreiben nur mit Bestätigung. E-Mail-Versand, Dateilöschung, Zahlung, Veröffentlichung: immer mit ausdrücklicher menschlicher Freigabe vor der Ausführung, unabhängig davon, wie sicher sich der Agent nach eigener Angabe ist.

• OpenCode + Ollama: ein Coding-Agent im Terminal
• Cline + Ollama: ein Coding-Agent in VS Code
• Das lokale Agentenpaket

#FAQ