Verantwortungsvolle KI-Agenten erkennen: 5 Prüffragen, bevor ihr euch entscheidet

Ihr wollt einen KI-Agenten für euren Betrieb auswählen und wisst nicht, worauf ihr achten sollt? Die meisten Vergleiche helfen da wenig, denn sie bewerten vor allem, wie viel ein Agent allein erledigen kann. Für euch zählt aber etwas anderes. Verantwortungsvolle KI-Agenten erkennt ihr daran, wie zuverlässig sie Entscheidungen an euch zurückgeben. In diesem Beitrag zeige ich euch fünf Prüffragen, mit denen ihr das vor der Entscheidung herausfindet.

„Verschickt der das dann auch selbst?“

Vor einiger Zeit sollte ich einen Branchenvergleich der „11 besten KI-Agenten“ einordnen. Beim Lesen fiel mir auf, nach welchem Maßstab dort fast durchgehend bewertet wurde. Je autonomer ein Agent, desto besser die Note. Menschliche Aufsicht tauchte höchstens als Einschränkung auf, als Bremse für das, was eigentlich möglich wäre.

Kurz darauf saß ich in einer Werkstatt mit einem Pumpenbetrieb zusammen. Wir zeigten, wie ein KI-Agent Teilenummern nachschlägt, Befunde formuliert und Kostenvoranschläge entwirft. Ein erfahrener Meister hörte lange schweigend zu und fragte dann skeptisch „Verschickt der das dann auch selbst?“. Als ich antwortete, dass der Agent das Angebot nur vorbereitet und er selbst entscheidet, ob es rausgeht, veränderte sich seine Haltung spürbar. Aus Misstrauen wurde Interesse.

Dieser Moment hat mir etwas Grundsätzliches gezeigt. Wer mit seinem Namen und seiner Haftung für ein Angebot einsteht, empfindet maximale Autonomie nicht als Vorteil, sondern als Sorge. Er will einen Agenten, der ihm den Rücken frei macht und ihm die Entscheidung lässt. Genau deshalb arbeiten wir nach dem Prinzip Vorschlag-und-Bestätigung. Der Agent bereitet vor, der Mensch entscheidet. Folgenreiche Schritte wie Bestellen, Versenden oder Freigeben kann unser Agent im Auslieferungszustand nicht allein auslösen. Das ist Teil der Architektur und kein Schutz, der nachträglich eingebaut wurde. Als Genossenschaft gehört diese Haltung unseren Mitgliedern, sie steht in unserer Satzung und nicht nur im Marketing.

So geht ihr vor: Verantwortungsvolle KI-Agenten in 5 Prüffragen erkennen

1. Stellt eine andere Frage. 

Ersetzt „Wie autonom ist der Agent?“ durch „Wie zuverlässig gibt er Entscheidungen an uns zurück?“. Diese eine Umstellung verändert, wie ihr Anbieter, Demos und Vergleiche bewertet.

2. Listet eure folgenreichen Handlungen auf. 

Schreibt drei bis fünf Schritte aus eurem Ablauf auf, die reale Folgen haben. Typisch sind Zahlungen, Bestellungen, der Versand von Angeboten oder E-Mails an Kunden, Unterschriften und Freigaben.

3. Fragt nach der ausdrücklichen Freigabe. 

Prüft für jede dieser Handlungen, ob der Agent eine ausdrückliche Bestätigung durch einen Menschen verlangt, bevor er sie ausführt. Lautet die Antwort „das macht er selbst“, habt ihr ein Risiko gefunden.

4. Prüft, ob ihr vorher sehen und ändern könnt. 

Eine Freigabe ist nur so gut wie das, was ihr dabei seht. Könnt ihr das vorbereitete Angebot, die Bestellung oder die Nachricht vollständig ansehen und anpassen, bevor ihr zustimmt? Ein bloßes „OK“ auf eine Zusammenfassung reicht nicht.

5. Klärt, ob die Bestätigung Standard ist. 

Fragt den Anbieter, ob die Freigabe im Auslieferungszustand gilt oder erst eingerichtet werden muss. Und wer sie abschalten kann. Verantwortungsvolle KI-Agenten bringen die Bestätigung von Haus aus mit.

Haltet die Antworten in einer einfachen Tabelle fest, mit den Spalten Handlung, Freigabe nötig, Vorschau und Änderung möglich, Bewertung. So könnt ihr verschiedene Agenten fair vergleichen. Wenn ihr dabei merkt, dass eure bisherige Lösung diese Fragen nicht sauber beantwortet, schreibt mir über unsere Kontaktseite. Wir schauen uns euren Ablauf gemeinsam an.

Verantwortungsvolle KI-Agenten erkennt man daran, wie zuverlässig sie Entscheidungen an Menschen zurückgeben.

Was ich dabei gelernt habe

Die Branche misst Fortschritt gern an Autonomie. Die Menschen, mit denen ich arbeite, messen Vertrauen an Kontrolle. Beides geht zusammen, wenn der Agent die Vorarbeit übernimmt und die Entscheidung dort bleibt, wo die Verantwortung liegt. Der Meister aus dem Pumpenbetrieb hatte nichts gegen KI. Er hatte etwas dagegen, die Kontrolle über seinen Namen abzugeben.

Der typische Stolperstein ist die Demo. Dort beeindruckt, was ein Agent alles allein schafft, und die Frage nach der Freigabe geht im Staunen unter. Nehmt eure Liste aus Schritt 2 deshalb in jede Vorführung mit und lasst euch jede Handlung konkret zeigen.

Euer Sofort-Schritt für heute

Nehmt euch zwanzig Minuten. Schreibt die drei folgenreichsten Handlungen aus eurem Arbeitsalltag auf und notiert daneben, ob ein Agent oder Werkzeug, das ihr heute schon nutzt, dabei eine ausdrückliche Freigabe verlangt. Jedes „weiß ich nicht“ ist eure erste Frage an den Anbieter.

Wie geht es weiter?

• Tiefer einsteigen: In unserem Podcast sprechen wir regelmäßig darüber, wie KI-Agenten im Alltag von Betrieben wirklich helfen.

• Gemeinsam umsetzen: In unserer Skool-Community bauen wir KI-Agenten nach dem Prinzip Vorschlag-und-Bestätigung, mit Anleitungen, Austausch und Feedback. Die Mitgliedschaft ist kostenpflichtig.

• Für euren Betrieb: Wenn ihr einen verantwortungsvollen KI-Agenten für euren Ablauf einsetzen wollt, erreicht ihr mich über unsere Kontaktseite.

Linda Sabottig – Vorstand Intra.ID eG