KI-Agenten: Entscheidungsrechte und Kontrolle im Verwaltungsrat

Vom Assistenten zum Agenten

Ein KI-Assistent macht Vorschläge, und ein Mensch entscheidet. Ein KI-Agent führt Schritte selbst aus: Er löst Bestellungen aus, versendet Nachrichten oder ändert Daten in einem System. Er handelt innerhalb der Befugnisse, die ihm jemand eingeräumt hat. Um diese Befugnisse geht es hier. Das konkrete Prüfraster vor dem ersten Workflow steht im Beitrag KI-Agenten im Unternehmen: Was vor dem ersten autonomen Workflow zu klären ist.

Wie schnell sich Agenten verbreiten, ist offen. Das Marktforschungsunternehmen Gartner prognostizierte am 26. August 2025, dass bis Ende 2026 bis zu 40 Prozent der Unternehmensanwendungen aufgabenspezifische KI-Agenten enthalten werden, gegenüber weniger als 5 Prozent im Jahr 2025. Das ist eine Prognose über Unternehmenssoftware im Allgemeinen. Sie sagt nichts über Schweizer KMU aus, und ob sie eintrifft, ist nicht belegt.

Für ein KMU lese ich daraus eine Frage: Kommen Agentenfunktionen über Standardsoftware ins Haus, ohne dass jemand ein KI-Projekt beschlossen hat?

Ein hypothetisches Beispiel

Ein Handelsunternehmen lässt einen Agenten Nachbestellungen beim Lieferanten auslösen. Ein fehlerhafter Lagerbestand im System führt dazu, dass der Agent das Zehnfache der üblichen Menge bestellt. Kein Mensch sieht die Bestellung vor dem Versand. Das Beispiel ist erfunden.

Die rechtliche Beurteilung hängt vom Einzelfall und von den Verträgen ab. Organisatorisch stellen sich sofort drei Fragen: Bis zu welchem Umfang durfte der Agent bestellen? Wer hätte ihn stoppen können? Lässt sich nachvollziehen, was er auf welcher Datenbasis getan hat?

Entscheidungsrechte sind eine Frage der Kompetenzordnung

Ein Agent, der Bestellungen auslöst, übt faktisch eine Kompetenz aus, die die Kompetenzordnung des Unternehmens einer Funktion zuweist. Meine Empfehlung: Die Befugnisse eines Agenten gehen nie weiter als die Befugnisse der Funktion, die für ihn verantwortlich ist. Jeder Agent hat eine namentlich verantwortliche Person.

Art. 716a OR nennt weder KI noch Agenten. Die Norm weist dem Verwaltungsrat unter anderem die Festlegung der Organisation und die Oberaufsicht zu. Aus meiner Sicht legt das Gremium fest, nach welchen Grundsätzen Agenten wesentliche Befugnisse erhalten. Die einzelne Konfiguration bleibt Sache der Geschäftsleitung. Die Norm im Detail erläutert der Beitrag KI-Governance im Verwaltungsrat: Was Art. 716a OR bedeutet.

Das Kontrollmodell: sechs Bausteine

Die folgenden Bausteine sind meine Empfehlung und eine anpassbare Arbeitshilfe.

1. Begrenzte Befugnisse
Welche Aktionen darf der Agent ausführen? Bis zu welchem Betrag, gegenüber welchen Gegenparteien, in welchen Systemen, mit welchen Daten? Der Agent erhält nur die Zugriffe, die seine Aufgabe erfordert.

2. Freigabestufen
Drei Stufen genügen für den Anfang: autonom, mit menschlicher Freigabe, gesperrt. Die Zuordnung folgt der Tragweite und der Umkehrbarkeit einer Aktion. Eine Terminbestätigung ist rasch korrigiert, eine Preiszusage weniger.

3. Stoppmöglichkeit
Wer darf den Agenten anhalten, und unter welchen Bedingungen? Was geschieht mit laufenden Vorgängen? Ein Stopp sollte geübt sein.

4. Protokollierung
Das Protokoll hält fest, welche Aktion der Agent wann ausgeführt hat, auf welcher Datenbasis und mit welcher Freigabe. Jemand prüft Stichproben.

5. Eskalation
Bei welchen Schwellenwerten oder Auffälligkeiten übergibt der Agent an einen Menschen, und an wen?

6. Berichterstattung an das Gremium
Die Geschäftsleitung berichtet periodisch: welche Agenten wesentliche Befugnisse haben, welche Befugnisse sich geändert haben, welche Vorfälle und Stopps es gab.

Der Zielkonflikt: Tempo gegen Kontrolle

Jede Freigabe kostet Tempo. Zu wenige Freigaben erhöhen das Risiko. Zu viele Freigaben nehmen dem Agenten den Nutzen und können zur Routine ohne echte Prüfung werden. Ich empfehle diese Reihenfolge: zuerst erwarteten Nutzen und Messgrösse klären, dann enge Befugnisse festlegen, dann schrittweise ausweiten.

EU-Verordnung über KI: Anwendungsbereich sauber prüfen

Normtext: Die Verordnung (EU) 2024/1689 gilt nach Art. 2 Abs. 1 unter anderem für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen (Bst. a), für Betreiber mit Sitz in der Union (Bst. b) sowie für Anbieter und Betreiber in einem Drittland, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Bst. c). Die Bearbeitung von Daten europäischer Kunden allein nennt Art. 2 Abs. 1 nicht als Anknüpfungspunkt. Art. 14 (menschliche Aufsicht, einschliesslich einer «Stopptaste» in Abs. 4 Bst. e) betrifft Hochrisiko-KI-Systeme. Die Verordnung (EU) 2026/1744 vom 8. Juli 2026 hat den Geltungsbeginn dieser Anforderungen verschoben: auf den 2. Dezember 2027 für Systeme nach Anhang III und auf den 2. August 2028 für Systeme nach Anhang I.

Einordnung: Ob ein Schweizer Unternehmen mit einem bestimmten Agenten unter die Verordnung fällt und ob dieser als Hochrisiko-System gilt, ist eine juristische Prüfung im Einzelfall. Menschliche Aufsicht und Stoppmöglichkeit taugen unabhängig davon als Denkhilfe für das eigene Kontrollmodell.

Fragen für das Gremium

1. Welche Agenten lösen heute selbstständig Aktionen mit Aussenwirkung aus?
2. Nach welchen Grundsätzen erhalten Agenten Befugnisse, und wer entscheidet darüber?
3. Wer kann jeden dieser Agenten anhalten, und wurde das geübt?
4. Was erfährt das Gremium über Vorfälle, Stopps und geänderte Befugnisse?