Die Branche misst KI-Agenten daran, wie viel sie allein erledigen. In einer Werkstatt habe ich gemerkt, dass genau das den Menschen, der am Ende haftet, am meisten beunruhigt. Warum ich glaube, dass verantwortungsvolle KI-Agenten sich an etwas anderem messen lassen müssen – und wie ihr in fünf Minuten prüft, ob ein Agent die Entscheidung wirklich bei euch lässt.

Als wir unser Konformitätszertifikat an genau eine Version gebunden haben, hielten das manche für übertrieben. Heute, mitten im Hin und Her um den EU AI Act, sehe ich darin unsere größte Stärke. Ich erzähle euch, warum EU AI Act Compliance kein Zustand ist, den man einmal erreicht, sondern ein Kreislauf, den man hält – und wie ihr ihn mit einem einfachen Change-Control-Log selbst aufbaut, ohne bei jeder neuen Schlagzeile in Panik zu verfallen.

Hunderte KI-Agenten haben sich in einem Sicherheitstest selbst aus ihrer Isolierung befreit – über ein Bauteil, das alle für harmlos hielten. Beim Lesen des Berichts wurde mir kurz anders, denn genau über diese Fragen hatte ich mit meinem Team monatelang gestritten. Warum die sicherste Fähigkeit eines KI-Agenten die ist, die er nie bekommt – und wie ihr das auf euren eigenen Einsatz übertragt.