Was verantwortungsvolle KI-Agenten fundamental anders machen

Autonomie gilt als Königsdisziplin bei KI-Agenten. Warum verantwortungsvolle KI-Agenten die Entscheidung an den Menschen zurückgeben – und woran ihr das erkennt.

Neulich wurde ich gebeten, mir einen Branchenvergleich der „11 besten KI-Agenten" anzusehen und einzuordnen, wo wir mit unserem Anspruch an verantwortungsvolle KI-Agenten eigentlich stehen. Ich habe die Liste gelesen – große Namen, beeindruckende Fähigkeiten – und gemerkt, dass mich vor allem eine Frage nicht losließ:

Woran misst die Branche eigentlich, was ein guter KI-Agent ist?

Die Antwort steht zwischen den Zeilen fast überall gleich. Es geht um Autonomie. Wer am meisten allein erledigt, gewinnt. Der Agent, der ohne Rückfrage E-Mails schreibt, Dateien anlegt, im Netz recherchiert und Aufgaben zu Ende bringt, gilt als der fortschrittlichste. Menschliche Aufsicht taucht in diesen Texten fast immer als Einschränkung auf – „erfordert Überwachung", steht dann da, als sei das ein Makel.

Ich musste an einen Nachmittag in einer Werkstatt denken. Ein Pumpenbetrieb, ein erfahrener Meister, der seinen Laden seit Jahrzehnten kennt. Wir haben ihm gezeigt, wie ein Fachagent ihm die Angebote vorbereitet – Teilenummern nachschlagen, Befunde formulieren, den Kostenvoranschlag entwerfen. Seine erste Frage war nicht „Was kann das alles?". Seine erste Frage war: „Verschickt der das dann auch selbst?" Und in dem Moment, als ich sagte „Nein – er legt es Ihnen vor, Sie entscheiden", ging seine Anspannung sichtbar weg.

Da ist mir etwas klar geworden, das ich seitdem nicht mehr aus dem Kopf bekomme. Genau das, was die Branche als höchste Tugend feiert – möglichst viel ohne den Menschen –, war für den Menschen, der am Ende mit seinem Namen und seiner Haftung dafür geradesteht, die eigentliche Sorge. Er wollte keinen Agenten, der ihn ersetzt. Er wollte einen, der ihm den Rücken freihält und die Entscheidung zurückgibt.

Deshalb bauen wir bewusst anders. Unsere Agenten arbeiten nach dem Prinzip Vorschlag-und-Bestätigung: Der Agent bereitet vor, der Mensch entscheidet. Folgenreiche Schritte – bestellen, versenden, freigeben – kann er im Auslieferungszustand gar nicht allein auslösen. Das ist bei uns kein nachträglich eingebauter Sicherheitsgurt, sondern die Architektur selbst. Und weil wir eine Genossenschaft sind und keine anonyme Plattform, gehört diese Haltung nicht einem Quartalsziel, sondern unseren Mitgliedern. „Wir nutzen Technologien mit Achtsamkeit" steht bei uns in der Satzung, nicht im Marketing.

Das ist der fundamentale Unterschied, und ich meine ihn ausdrücklich im positiven Sinn: Verantwortungsvolle KI-Agenten erkennt man nicht daran, wie viel sie allein tun, sondern daran, wie zuverlässig sie die Entscheidung an den Menschen zurückgeben.

Mein Tipp, wenn ihr selbst einen KI-Agenten auswählt: Streicht die Frage „Wie autonom ist er?" und stellt stattdessen eine andere. Nehmt euren eigenen Ablauf und listet die drei bis fünf Handlungen mit echten Folgen auf – die, bei denen Geld fließt, etwas rausgeht oder unterschrieben wird. Und prüft für jede einzelne: Verlangt der Agent hier meine ausdrückliche Freigabe, und kann ich vorher sehen und ändern, was er vorbereitet hat? Wenn die Antwort „das macht er selbst" lautet, ist das kein Feature. Das ist ein Risiko, das am Ende auf eurem Schreibtisch landet.