Warum KI-Agenten den Menschen nicht ersetzen: Was MCP, RAG und Context Engineering wirklich leisten – und warum Human-in-the-Loop keine Kontrolle, sondern Verantwortung ist.
Künstliche Intelligenz entwickelt sich rasant. Unternehmen nutzen Sprachmodelle, bauen Wissensdatenbanken, verbinden CRM- und ERP-Systeme, experimentieren mit KI-Agenten und beginnen, ganze Arbeitsabläufe zu orchestrieren. Begriffe wie API, MCP, RAG, Tool Calling und Multi-Agent-Systeme tauchen immer häufiger auf.
Hinter dieser technischen Entwicklung liegt eine tiefere Frage: Was geschieht, wenn immer mehr Information verfügbar, immer mehr Wissen abrufbar und immer mehr Handlung automatisierbar wird?
Denn Information ist noch keine Erkenntnis. Eine KI kann Muster erkennen, Zusammenhänge modellieren, Dokumente durchsuchen, Werkzeuge auswählen und Aufgaben ausführen. Aber daraus folgt nicht, dass sie erkennt, was eine Situation für einen Menschen, ein Unternehmen oder eine Gesellschaft bedeutet. Genau hier liegt aus meiner Sicht die entscheidende Grenze – und zugleich die entscheidende Verantwortung des Menschen.
Viele Unternehmen beginnen mit einem Sprachmodell: Sie stellen Fragen, erhalten Antworten. Doch ein Modell allein kennt weder den Lagerbestand noch die letzte Kundeninteraktion, interne Arbeitsanweisungen oder strategische Ziele. Deshalb entstehen zunehmend komplexere Architekturen. Vereinfacht:
Information → relevantes Wissen suchen → Kontext herstellen → Agent auswählen → Werkzeug nutzen → System abfragen → Ergebnis bewerten → nächster Schritt
Technisch ein gewaltiger Fortschritt. Gerade deshalb wird eine Unterscheidung wichtig, die sich durch alle folgenden Bausteine zieht: Verarbeitung ist nicht dasselbe wie Erkenntnis.
Ein Large Language Model verarbeitet Sprache: analysieren, beantworten, zusammenfassen, Muster erkennen, Optionen formulieren. Ein starkes Modell kann den Eindruck erzeugen, es habe eine Situation verstanden. Doch der Mensch besitzt einen eigenen Bedeutungsraum. Er kann fragen: Was bedeutet das für mich? Welche Verantwortung entsteht daraus? Welche meiner Annahmen muss ich infrage stellen? Er verarbeitet Information nicht nur – er tritt in Beziehung zu ihr. Dort beginnt Erkenntnis.
Der Arbeitsraum der KI: nur was hier vorliegt, kann sie verwenden. Ein Unternehmen besitzt tausende Dokumente, Millionen E-Mails, jahrzehntelange Kundendaten – aber nicht alles ist für jede Frage relevant. Die eigentliche Aufgabe lautet nicht „mehr Information bereitstellen", sondern Relevanz herstellen. Und doch bleibt die menschliche Frage: relevant wofür? Jede Auswahl setzt bereits eine Ausrichtung voraus.
Um große Dokumentenmengen durchsuchbar zu machen, zerlegen KI-Systeme Inhalte in Abschnitte (Chunking) und übersetzen sie in mathematische Vektoren (Embeddings), gespeichert in einer Vektordatenbank. So wird Bedeutungsähnlichkeit vergleichbar: „Kunde kann Rechnung nicht bezahlen" und „Problem mit offenem Zahlungseingang" liegen nah beieinander, obwohl kein Wort übereinstimmt.
Beeindruckend – aber hier zeigt sich ein Grundmuster jeder Informationsverarbeitung: Die Wirklichkeit kommt nicht in fertigen Kategorien zu uns. Wir zerlegen, benennen, ordnen sie. Kategorien sind notwendige Werkzeuge, aber nicht die Wirklichkeit selbst. Ein Embedding modelliert eine Beziehung; es erlebt sie nicht. Es leidet nicht unter der unbezahlten Rechnung und trägt keine Verantwortung. Deshalb gilt für mich: Das Phänomen geht der Kategorie voraus. Erst ist etwas da, es berührt uns – dann beginnt die Ordnung.
Reine semantische Suche reicht nicht: Eine Seriennummer wie AG-8472-XP muss exakt gefunden werden, „Welches Gerät eignet sich für mobilen Einsatz?" braucht Verständnis. Hybrid Search kombiniert beides – und macht ein Spannungsfeld sichtbar: Nur Kategorien machen Systeme starr, nur Ähnlichkeit macht sie unpräzise. Qualität entsteht im Zusammenspiel.
Retrieval-Augmented Generation: Bevor das Modell antwortet, sucht das System passendes Wissen und stellt es bereit.
Frage → relevante Dokumente finden → Kontext zusammenstellen → Antwort erzeugen
Fragt ein Mitarbeiter „Wie behebe ich Fehlercode E47 bei Maschine X500?", durchsucht das System Handbücher, Doku und Serviceberichte. Ein enormer Fortschritt gegenüber dem isolierten Chatbot. Doch RAG löst ein Informationsproblem – „welche Info passt zur Frage?". Die Bedeutungsfrage bleibt beim Menschen: Zwei technisch ähnliche Situationen können menschlich völlig verschieden sein.
Eine API ist die Schnittstelle zwischen Softwaresystemen: Kunden suchen, Daten abrufen, Bestände prüfen. Das Model Context Protocol (MCP) geht weiter – es standardisiert, wie eine KI-Anwendung auf externe Werkzeuge, Datenquellen und Systeme zugreift.
Eine API sagt: So kommunizierst du mit meinem System.
MCP sagt: Diese Fähigkeiten und Ressourcen stehen der KI zur Verfügung.
MCP ersetzt APIs nicht – ein MCP-Server ruft im Hintergrund oft selbst eine API auf. Damit wächst die Handlungsfähigkeit von KI-Systemen erheblich. Und genau deshalb wächst die Verantwortung für ihre Gestaltung: Nur weil Systeme kommunizieren können, ist die ausgeführte Handlung noch nicht sinnvoll.
Ein KI-Agent verbindet Sprachmodell, Ziel, Anweisungen, Kontext, Werkzeuge und einen mehrstufigen Prozess. Ein Modell erklärt, wie man den Lagerbestand prüft – ein Agent prüft ihn. Über Tool Calling erkennt er den Bedarf und ruft eine Fähigkeit auf, etwa check_inventory(product="X500").
Das ist eine Form von Auswahl. Aber Auswahl ist nicht automatisch verantwortliche Entscheidung. Ein System entscheidet nach seinen Regeln, welches Werkzeug es nutzt. Welche Regeln gelten sollen, entscheidet der Mensch.
Workflows übersetzen wiederkehrende, eindeutige Prozesse in feste Abläufe. Doch Unternehmen bestehen nicht nur aus eindeutigen Situationen, sondern auch aus Ausnahmen, Spannungen, widersprüchlichen Interessen und menschlichen Beziehungen. Dort reicht reine Automatisierung nicht.
Sobald mehrere Agenten, Werkzeuge und Systeme beteiligt sind, braucht es Orchestrierung – sie klärt: Welcher Agent ist zuständig (Router)? Was läuft zuerst, was parallel (Parallelisierung)? Wann übernimmt ein anderer Agent (Handoff)? Wann wiederholt das System einen Arbeitsschritt (Loop)? Wann muss es stoppen und menschliche Freigabe einholen?
Kundenanfrage → Orchestrator → [ CRM-Agent · ERP-Agent · Wissens-Agent ] → Ergebnisse zusammenführen → nächster Schritt
Hier liegt für mich die tiefere Frage: Nach welchen Axiomen wird orchestriert? Kein System ist neutral – jede Priorisierung setzt Annahmen voraus:
Je leistungsfähiger die Orchestrierung, desto entscheidender werden die unausgesprochenen Grundannahmen des Systems. Und je mehr parallel läuft, desto häufiger entstehen Widersprüche zwischen Agenten. Die technische Frage lautet: Wie führen wir Ergebnisse zusammen? Die menschliche: Wie halten wir Widerspruch aus, ohne ihn vorschnell aufzulösen? Erkenntnis entsteht oft nicht dadurch, dass Spannung sofort verschwindet, sondern dass wir sie zunächst wahrnehmen.
Ein Loop ist besonders heikel: Sind die Ausgangsannahmen falsch, arbeitet ein System sehr effizient in die falsche Richtung. Kann es nur seine Ergebnisse prüfen – oder auch seine Annahmen? Wer prüft die Axiome, nach denen es arbeitet? Hier bleibt der Mensch unverzichtbar.
State hält fest, wo der Prozess steht (Kunde gefunden = ja, Freigabe = nein). Doch der Zustand eines Systems ist nicht die Situation eines Menschen. Ein System sieht Zahlung offen = ja. Ein Mensch erkennt: Dahinter steht möglicherweise eine existenzielle Krise. Die Datenlage kann identisch sein – die Bedeutung ist es nicht.
Memory entscheidet, was ein System behält. Die Frage ist nicht nur was können wir speichern, sondern was sollten wir – denn jedes Gedächtnis prägt zukünftige Wahrnehmung. Das gilt für Menschen wie für Maschinen.
Context Engineering ist für mich einer der wichtigsten Begriffe: Welche Information bekommt welcher Agent zu welchem Zeitpunkt? Ziel ist nicht möglichst viel, sondern relevanter Kontext. Damit entsteht die eigentliche Frage: Wer bestimmt, was relevant ist? Jede Kontextauswahl erzeugt einen Ausschnitt der Wirklichkeit – das System sieht nur, was wir ihm zugänglich machen.
Prompt Engineering fragt: Was sage ich der KI?
Context Engineering fragt: Welche Information und Handlungsmöglichkeiten gebe ich ihr?
Die menschliche Erkenntnisfrage geht tiefer: Aus welcher Ausrichtung heraus entscheide ich überhaupt, was wesentlich ist?
Guardrails setzen Grenzen (keine Bestellung über 1.000 € ohne Freigabe, keine Kundendaten an externe Systeme). Notwendig – aber auch Regeln entstehen nicht aus dem Nichts. Menschen müssen entscheiden, welche Risiken akzeptabel und welche Werte zu schützen sind.
Human-in-the-Loop bindet den Menschen an kritischen Punkten ein. Wichtig – aber es reicht nicht, ihn nur als letzte Freigabestelle eines fertig definierten Systems zu betrachten. Er muss auch fragen dürfen: Ist das Ziel noch richtig? Welche Annahme steuert den Prozess? Was übersehen wir? Kann ich diese Entscheidung verantworten? Der Mensch ist kein Kontrollmechanismus – er ist derjenige, der Bedeutung herstellt und Verantwortung trägt.
Tracing & Observability machen nachvollziehbar, was ein System getan hat. Doch vollständige Dokumentation beantwortet nicht: War die Entscheidung richtig? Ein Prozess kann technisch lückenlos protokolliert und trotzdem menschlich falsch ausgerichtet sein.
Hier liegt der Kern. Eine KI kann Informationen verarbeiten, Muster erkennen, Beziehungen modellieren, Inhalte abrufen, Kategorien bilden, Werkzeuge wählen, Prozesse koordinieren, Handlungen ausführen.
Erkenntnis ist mehr. Sie entsteht dort, wo ein Mensch in Beziehung tritt und nicht nur fragt „Was ist die wahrscheinlich richtige Antwort?", sondern: Was bedeutet das? Was verändert diese Einsicht in mir? Welche Handlung kann ich vertreten? Der Mensch kann sich selbst zum Gegenstand seiner Erkenntnis machen und bemerken:
Vielleicht liegt der Fehler nicht in der Antwort. Vielleicht liegt er in meiner Frage. Oder noch tiefer: im Axiom, von dem ich ausgegangen bin.
Die technische Entwicklung beginnt meist sehr schnell bei der Kategorie – sie klassifiziert, berechnet, optimiert. Der Mensch kann davor verweilen: beim Phänomen, bei der Beobachtung, bei der Beziehung. Er kann fragen Was zeigt sich hier wirklich?, bevor er entscheidet In welche Kategorie gehört es?
Phänomen → Beobachtung → Beziehung → Kategorie → Erkenntnis → Handlung
Die entscheidende Entwicklung der kommenden Jahre besteht nicht darin, immer größere Modelle zu bauen, sondern verschiedene Ebenen zu verbinden:
Wissen → RAG → Kontext → Agenten → Tools → API & MCP → Orchestrierung → Guardrails → menschliche Erkenntnis → verantwortliche Handlung
Damit verschiebt sich die strategische Frage:
Nicht nur Welche KI setzen wir ein? – sondern Welche Art von Unternehmen wollen wir durch diese Technologie werden?
Nicht nur Was können wir automatisieren? – sondern Was sollten wir automatisieren?
Nicht nur Welche Entscheidung kann ein Agent treffen? – sondern Welche Entscheidung kann und will ein Mensch verantworten?
Je leistungsfähiger KI wird, desto weniger genügt es, den Menschen über seine Informationsmenge zu definieren. Die Maschine verarbeitet mehr, sucht schneller, vergleicht mehr Dokumente, koordiniert über Systeme hinweg. Der Wettbewerb „Mensch gegen Maschine" wäre auf dieser Ebene schon falsch gestellt.
Die eigentliche Aufgabe des Menschen liegt tiefer: sich selbst beobachten, die eigenen Axiome hinterfragen, Bedeutung herstellen, Widersprüche aushalten, Verantwortung übernehmen, aus Erkenntnis handeln. Deshalb sehe ich künstliche Intelligenz nicht primär als Ersatz des Menschen – sondern als Technologie, die uns zwingt, neu zu bestimmen, was menschliche Erkenntnis bedeutet.
Denn vielleicht liegt die entscheidende Fähigkeit der Zukunft nicht darin, noch mehr Antworten zu besitzen. Sondern darin, zu erkennen: welche Frage jetzt wirklich wesentlich ist.
Wer tiefer einsteigen möchte, wie aus reiner Information überhaupt Erkenntnis wird, findet das in Von der Informationsflut zur Erkenntnis.
Das Model Context Protocol standardisiert, wie eine KI-Anwendung auf externe Werkzeuge, Datenquellen und Systeme zugreift. Anders als eine klassische API, die nur festlegt, wie man mit einem System kommuniziert, beschreibt MCP, welche Fähigkeiten und Ressourcen einer KI überhaupt zur Verfügung stehen.
Context Engineering entscheidet, welche Information ein KI-Agent zu welchem Zeitpunkt erhält. Ziel ist nicht möglichst viel Kontext, sondern relevanter Kontext – die eigentliche Frage dabei ist, wer bestimmt, was relevant ist.
Human-in-the-Loop bindet einen Menschen an kritischen Punkten eines KI-Prozesses ein. Es reicht dabei nicht, ihn nur als letzte Freigabestelle zu betrachten – er muss auch die Annahmen und Ziele des Systems selbst hinterfragen dürfen.
Ein Multi-Agent-System besteht aus mehreren KI-Agenten, die über eine Orchestrierung koordiniert werden: Sie klärt, welcher Agent zuständig ist, was parallel läuft und wann ein Mensch eingreifen muss.