Die Branche misst KI-Agenten daran, wie viel sie allein erledigen. In einer Werkstatt habe ich gemerkt, dass genau das den Menschen, der am Ende haftet, am meisten beunruhigt. Warum ich glaube, dass verantwortungsvolle KI-Agenten sich an etwas anderem messen lassen müssen – und wie ihr in fünf Minuten prüft, ob ein Agent die Entscheidung wirklich bei euch lässt.

Hunderte KI-Agenten haben sich in einem Sicherheitstest selbst aus ihrer Isolierung befreit – über ein Bauteil, das alle für harmlos hielten. Beim Lesen des Berichts wurde mir kurz anders, denn genau über diese Fragen hatte ich mit meinem Team monatelang gestritten. Warum die sicherste Fähigkeit eines KI-Agenten die ist, die er nie bekommt – und wie ihr das auf euren eigenen Einsatz übertragt.