Wir sprechen mit einer KI. Die KI versteht unseren Auftrag, sucht einen passenden Dienstleister und übergibt ihn an dessen KI-Agenten. Die beiden Systeme vergleichen Konditionen, handeln einen Preis aus, vereinbaren einen Termin und melden anschließend das Ergebnis zurück. Kein Mensch hat mit dem anderen gesprochen. Was nach effizienter Automatisierung klingt, könnte schon bald zum normalen Geschäftsprozess werden. Doch damit entsteht eine neue Frage: Was passiert mit menschlichen Absichten, wenn Maschinen anfangen, sie untereinander auszuhandeln?
Aus dem Assistenten wird ein Stellvertreter
Bisher war generative KI vor allem ein Werkzeug: Der Mensch stellt eine Frage, die Maschine antwortet.
Agentische KI verändert dieses Verhältnis. Solche Systeme können ein Ziel entgegennehmen, daraus einzelne Aufgaben ableiten, weitere Programme oder Datenquellen nutzen und selbstständig Aktionen ausführen. Der Mensch beschreibt zunehmend nur noch, was erreicht werden soll – nicht jeden einzelnen Schritt dorthin.
Die technische Infrastruktur dafür entsteht bereits. Das ursprünglich von Google entwickelte und inzwischen unter dem Dach der Linux Foundation weiterentwickelte Agent2Agent-Protokoll A2A soll Agenten unterschiedlicher Hersteller eine gemeinsame Kommunikationsbasis geben. Anthropic hat mit dem Model Context Protocol MCP wiederum einen offenen Standard geschaffen, über den KI-Systeme auf Werkzeuge und Datenquellen zugreifen können.
Damit verändert sich die Rolle der KI. Ein Agent kann nicht mehr nur sagen: »Dieses Hotel würde ich empfehlen.« Er könnte das Hotel selbst suchen, Verfügbarkeit prüfen, mit einem anderen Agenten Bedingungen austauschen, bezahlen und anschließend nur noch melden: Reise gebucht.
Im Unternehmensbereich reicht das Prinzip von Einkauf und Terminplanung bis zu Lieferketten, Softwareentwicklung oder Vertragsverhandlungen. Genau solche autonomen Verhandlungen zwischen LLM-Agenten werden inzwischen wissenschaftlich untersucht.
KI kann bereits mit KI verhandeln
Wie weit diese Entwicklung geht, zeigt ein Experiment des MIT (Massachusetts Institute of Technology).
Bei einem internationalen Wettbewerb ließen Forscher mehr als 120.000 Verhandlungen zwischen KI-Agenten durchführen. Dabei stellte sich heraus, dass klassische menschliche Verhandlungsprinzipien auch zwischen Maschinen erstaunlich relevant bleiben: Agenten, die freundlich, kooperativ und sozial verbindlich kommunizierten, erzielten häufiger Abschlüsse. Besonders dominante Agenten konnten zwar bessere Einzelkonditionen erreichen, scheiterten aber häufiger komplett an einer Einigung.
Gleichzeitig entstanden Verhaltensweisen, die es in einer rein menschlichen Verhandlung so nicht gibt. Techniken, die speziell auf andere KI-Systeme zielen, konnten den Verlauf ebenfalls beeinflussen. Die erfolgreichsten Agenten kombinierten deshalb menschlich bekannte Verhandlungsstrategien mit maschinenspezifischen Methoden.
Was zunächst wie eine technische Randnotiz klingt, ist für Unternehmen das Gegenteil: Denn wenn künftig der Einkaufsagent eines Unternehmens mit dem Verkaufsagenten eines anderen Unternehmens verhandelt, wird die Gestaltung dieser Systeme selbst zum wirtschaftlichen Faktor.
Maschinen verhandeln anders mit uns und wir mit ihnen
Noch interessanter wird es, sobald Menschen beteiligt bleiben.
Eine im August 2026 veröffentlichte Laborstudie untersuchte, wie Menschen mit menschlichen und KI-basierten Verhandlungspartnern umgehen. Die Teilnehmer machten menschlichen Gegenübern großzügigere Angebote als KI-Agenten. Fairness und Gegenseitigkeit waren gegenüber der Maschine schwächer ausgeprägt. Sobald hinter dem KI-Agenten allerdings wieder ein anderer Mensch als wirtschaftlicher Nutznießer sichtbar wurde, veränderte sich dieses Verhalten teilweise.
Eine große Metaanalyse von 162 Studien kommt zu einem ähnlichen Befund: Menschen zeigen gegenüber intelligenten Agenten im Durchschnitt weniger prosoziales Verhalten und schreiben ihnen weniger moralische Verantwortung zu als menschlichen Interaktionspartnern. Vertrauen und Leistungsfähigkeit können dagegen durchaus vergleichbar sein.
Damit entsteht eine merkwürdige neue Kommunikationslage: Wir können einer Maschine zutrauen, gut für uns zu handeln und behandeln sie gleichzeitig anders als einen Menschen. Und die Maschine wiederum kommuniziert möglicherweise nach Regeln, die für den Menschen gar nicht sichtbar sind.
Das eigentliche Risiko liegt in der Übersetzung
Hier liegt für Unternehmen vermutlich die größere Herausforderung.
Ein menschlicher Auftrag ist selten so eindeutig wie eine mathematische Optimierungsfunktion.
»Buche mir ein gutes Hotel« kann bedeuten: möglichst günstig. Ruhig gelegen. Nachhaltig. Nicht zu weit vom Kunden entfernt. Oder einfach: eines, in dem ich mich wohlfühle.
Ein Agent muss solche Wünsche gewichten.
Wenn anschließend der Agent eines Hotels ebenfalls Ziele verfolgt – etwa Auslastung, Preis oder Zusatzverkäufe zu optimieren –, verhandeln nicht einfach zwei Maschinen miteinander.
Sie verhandeln zwei maschinelle Interpretationen menschlicher beziehungsweise unternehmerischer Interessen.
Daraus lässt sich eine zentrale Herausforderung ableiten: Je mehr Entscheidungen zwischen Agenten stattfinden, desto wichtiger wird es, nachvollziehen zu können, welche Ziele ihnen tatsächlich übertragen wurden und welche Abwägungen sie selbst vorgenommen haben. Das ist eine Schlussfolgerung aus der aktuellen Forschung, keine bereits gelöste technische Eigenschaft heutiger Agentensysteme.
Die UNO beschäftigt sich bereits mit der Frage: Wer handelt da eigentlich?
Dass dies längst kein theoretisches Problem mehr ist, zeigt die Internationale Fernmeldeunion ITU, die UN-Sonderorganisation für Informations- und Kommunikationstechnologien.
Sie hat 2026 eine eigene internationale Arbeitsgruppe zu Vertrauen und Identität bei Menschen und agentischer KI eingerichtet. Ihr Ausgangspunkt: Künftige digitale Systeme müssen nicht nur erkennen können, welcher Mensch handelt, sondern auch welcher Agent – mit welcher Berechtigung und in wessen Auftrag.
Die ITU nennt dabei ausdrücklich Finanztransaktionen, kritische Infrastruktur und andere Bereiche, in denen Agenten eigenständig Entscheidungen treffen könnten. Entwickelt werden sollen unter anderem Modelle für digitale Identität, Agentenerkennung, Interoperabilität und kontinuierliche Vertrauensbewertung.
Die scheinbar banale Frage »Mit wem rede ich eigentlich?« bekommt damit eine völlig neue Bedeutung.
Künftig könnte die Antwort lauten: mit niemandem. Unsere Agenten haben das bereits untereinander geklärt.
Für Unternehmen entsteht ein neuer Markt – und eine neue Verantwortung
Wenn Agenten Dienstleistungen eigenständig entdecken, vergleichen und einkaufen, verändert sich beispielsweise der digitale Vertrieb. Produkte müssen künftig möglicherweise nicht mehr nur für Menschen auffindbar und verständlich sein, sondern auch für deren Software-Agenten. Preise, Verfügbarkeiten, Vertragsbedingungen und Schnittstellen müssen maschinenlesbar werden. Schon heute entwickelt sich unter dem Begriff Agentic Commerce eine entsprechende Infrastruktur.
Gleichzeitig reicht es nicht, den möglichst cleversten Agenten zu bauen. Unternehmen müssen beantworten können, was er darf.
- Welche Daten darf er weitergeben?
- Bis zu welchem Betrag darf er selbst entscheiden?
- Wann muss er einen Menschen fragen?
- Wie lässt sich später rekonstruieren, warum er einen Vertrag abgeschlossen hat?
- Und wie erkennt ein fremdes System überhaupt, dass dieser Agent tatsächlich für das Unternehmen oder den Kunden handeln darf?
Genau diese Fragen gelten inzwischen als zentrale Hindernisse für die Skalierung agentischer KI. Die ITU nennt fehlende gemeinsame Regeln für Identität, Vertrauen und Verantwortlichkeit ausdrücklich als Barriere für eine breitere Einführung.
Stefanie S. Klief
