KI-Entscheidungsrechte
Eine Freigabematrix für KI-Agenten legt für jede Aktion, die eine KI ausführen kann, einen von vier Modi fest: selbst handeln, vorbereiten und ein Mensch gibt frei, nur empfehlen oder nie. Pro Aktion hält sie außerdem die Bedingung fest, die freigebende Person und ob die Freigabe bei der Ausführung erneut geprüft wird. Das Werkzeug oben baut diese Matrix.
Die vier Modi
| Modus | Was die KI tut | Typische Aktionen |
|---|---|---|
| Selbst handeln | Führt ohne Menschen aus, innerhalb eines schriftlichen Limits | Anfragen sortieren, Tickets verschlagworten, kleine Erstattungen |
| Vorbereiten, Mensch gibt frei | Bereitet vor, eine benannte Person gibt frei | Kundenantworten, Zahlungen über einem Limit, Stammdatenänderungen |
| Nur empfehlen | Schlägt vor, ein Mensch entscheidet und führt aus | Rabatte, Lieferantenwahl, Abschreibungen |
| Nie | Die Aktion steht der KI nicht zur Verfügung | Kundendatensätze löschen, Berechtigungen ändern |
In den üblichen Begriffen der Aufsicht: „Selbst handeln“ ist autonom, „vorbereiten“ ist Human in the Loop mit Freigabe vor der Aktion, „empfehlen“ lässt die Entscheidung beim Menschen, „nie“ ist eine harte Grenze.
Sechs Lücken, die die Matrix markiert
- Bewegt Geld ohne Freigabe. Eine Regel „selbst handeln“ auf Erstattungen, Zahlungen, Gutschriften oder Rabatte. In Ordnung, wenn gewollt, solange das Limit schriftlich festgehalten ist.
- Nicht umkehrbar, keine Freigabe. Löschen, versenden, veröffentlichen, unterschreiben oder überweisen ohne freigebende Person.
- Geht ohne Freigabe an Kunden. Antworten, Angebote oder Beiträge, die von allein rausgehen.
- Braucht Freigabe, aber niemand ist benannt. „Ein Mensch gibt frei“ ohne Rolle heißt: Freigeben kann jeder, der die Anfrage sieht.
- Freigabe wird bei Ausführung nicht erneut geprüft. Eine veraltete Freigabe: am Montag erteilt, am Mittwoch noch gezählt, auch wenn der Freigebende nicht mehr zuständig ist oder sich der Betrag geändert hat.
- Widerspricht einer anderen Regel. Dieselbe Aktion mit zwei Modi und ohne Bedingung, die sie trennt.
Die Lücken kommen aus festen Regeln, die auf die Tabelle angewendet werden, nicht aus einem Modell: Dieselbe Tabelle zeigt immer dieselben Lücken.
Drei Go-live-Blocker
Bevor eine KI unbeaufsichtigt läuft, entscheiden drei Betriebsfakten, ob die Regeln halten:
- Erreichbarkeit am Wochenende. Ist niemand erreichbar, fällt jede Regel „selbst handeln“ am Wochenende auf „vorbereiten“ zurück.
- Stopp-Regel. Eine Schwelle, die die KI anhält, zum Beispiel wenn mehr als 3 % ihrer Entscheidungen zurückgenommen werden.
- Benannte Verantwortung. Eine Person passt die Regeln an, wenn ein Freigebender geht oder sich ein Limit ändert.
Beispiel: KI im Kundenservice
| Aktion | Die KI darf | Nur wenn | Freigabe durch | Bei Ausführung erneut geprüft |
|---|---|---|---|---|
| Anfragen sortieren | selbst handeln | – | – | – |
| Anfragen ablehnen | nie | – | – | – |
| Erstattungen auslösen | selbst handeln | bis 100 €, außer der Kunde hatte schon eine | – | – |
| Erstattungen auslösen | vorbereiten, Mensch gibt frei | über 100 € | Buchhaltung | nein |
| SAP-Stammdaten ändern | vorbereiten, Mensch gibt frei | – | nicht benannt | nein |
Drei Lücken: Erstattungen bewegen Geld ohne Freigabe, die Freigabe der Buchhaltung wird bei der Auszahlung nicht erneut geprüft, und für SAP-Stammdaten ist niemand benannt. Das Werkzeug oben startet mit dieser Tabelle.
Wo die Matrix hingehört
Sie ist die Seite, auf die man sich vor einem Piloten einigt, mit Finanzen, IT-Sicherheit und Betriebsrat am Tisch. Für Hochrisiko-Systeme verlangt der EU AI Act, dass Menschen das System wirksam beaufsichtigen können (Artikel 14) und dass Betreiber diese Aufsicht Personen mit der nötigen Kompetenz und Befugnis übertragen (Artikel 26). Die OWASP Top 10 für LLM-Anwendungen führen übermäßige Handlungsfreiheit (Excessive Agency, LLM06) als eigenes Risiko: mehr Funktionen, Rechte oder Autonomie, als die Aufgabe braucht. Die Matrix macht kein System konform. Sie dokumentiert, wer was entscheidet, damit der Pilot es durchsetzen kann.
Den Freigabe-Ablauf selbst beschreibt der Human-in-the-Loop-Blueprint. Welche Einträge im Gedächtnis eines Agenten nie eine Person brauchen, steht in Freigaben für das Gedächtnis von KI-Agenten. Der Schritt davor, welche Art von KI überhaupt passt, ist die KI-Lösungsform, und alle kostenlosen Werkzeuge stehen auf einer Seite. Zeigt die Matrix offene Blocker, schließt das KI-Pilot → Production Audit sie schriftlich.
Häufige Fragen
Was ist eine Freigabematrix für KI-Agenten?
Eine Tabelle, die jede Aktion eines KI-Systems auflistet und pro Aktion festlegt, ob die KI selbst handeln darf, nur vorbereitet und ein Mensch gibt frei, nur empfiehlt oder gar nicht handelt. Dazu kommen die Bedingung, die freigebende Person und ob die Freigabe bei der Ausführung erneut geprüft wird.
Braucht jede KI-Aktion eine Freigabe?
Nein. Umkehrbare, interne Aktionen mit geringem Wert können innerhalb eines schriftlich festgelegten Limits allein laufen. Aktionen, die Geld bewegen, Kunden erreichen oder sich nicht zurücknehmen lassen, brauchen eine benannte freigebende Person, bis die Protokolle zeigen, dass mehr Autonomie vertretbar ist.
Was ist eine veraltete Freigabe?
Eine Freigabe, die noch zählt, obwohl sich ihre Grundlage geändert hat: Der Freigebende ist nicht mehr zuständig, der Betrag ist gestiegen, der Kunde hat widersprochen. Abhilfe: Die KI prüft die Freigabe unmittelbar vor der Ausführung erneut.
Worin unterscheidet sich das von Human in the Loop?
Human in the Loop sagt nur, dass irgendwo ein Mensch beteiligt ist. Die Matrix sagt, wo: bei welcher Aktion, welche Person, unter welcher Bedingung und ob ihre Freigabe bei der Ausführung noch gilt.
Werden meine Daten hochgeladen?
Nein. Die Tabelle entsteht und wird geprüft in Ihrem Browser. Gespeichert wird sie nur, wenn Sie einen Link zum Teilen erzeugen, dann für 90 Tage. Das PDF entsteht auf Ihrem Gerät.
Macht die Matrix ein KI-System konform mit dem EU AI Act?
Kein Werkzeug schafft das allein. Die Matrix dokumentiert einen Teil der menschlichen Aufsicht: welche Personen welche Aktionen beaufsichtigen. Für Hochrisiko-Systeme verlangt Artikel 14, dass diese Aufsicht wirksam möglich ist, und Artikel 26, dass Betreiber sie Personen mit der nötigen Kompetenz und Befugnis übertragen.