Alle reden über den AI Act. Wir reden über Governance.
Im letzten Artikel ging es um die Reife vor dem ersten Agenten. Am Ende stand dort eine Frage, die harmloser klingt, als sie ist: Wer prüft eigentlich, was der Agent produziert?
Genau dort hört Readiness auf. Und Governance fängt an.
Governance klingt nach Regelwerk
Die meisten denken bei dem Wort an Richtlinien, Freigabematrizen und ein PDF, das niemand öffnet. In der Praxis läuft es auf drei Fragen hinaus:
Wer setzt welchen Agenten wofür ein? Wer sieht sich das Ergebnis an, bevor es das Haus verlässt? Und wohin geht es, wenn etwas nicht stimmt?
Fallen die Antworten im Team gleich aus, existiert Governance bereits. Ganz ohne Dokument. Fallen sie unterschiedlich aus, ändert daran auch das schönste Regelwerk nichts.
Bei der AIC Group haben wir das nach und nach gemerkt. Erst kam ein zweites Themengebiet dazu, dann weitere Aufgaben, weitere Wissensdateien, weitere Leute, die mit dem Agenten arbeiten. Jede Erweiterung für sich war klein.
Nur bleibt bei einem Agenten nichts für sich stehen. Eine neue Wissensdatei beantwortet nicht nur die neue Frage, sie mischt sich in die alten ein. Eine zusätzliche Regel kann eine bestehende aushebeln, ohne dass es jemandem auffällt, bis das erste Ergebnis daneben liegt. Und je mehr Leute mit ihm arbeiten, desto weniger merkt man, dass sie ihn unterschiedlich verstehen.
Die eigentliche Arbeit beim Erweitern ist deshalb nicht das Hinzufügen. Sie liegt in der Frage, ob das Neue mit dem Vorhandenen zusammenspielt und ob die Leitplanken von damals noch reichen. Das war der Moment, in dem aus einer Arbeitsweise eine Absprache werden musste.
Governance entsteht beim Bauen, nicht danach
Zwei Muster sehen wir immer wieder. Die einen wollen erst alles geregelt haben und fangen deshalb nie an. Die anderen legen los, und das sind deutlich mehr. Sie machen sich durchaus Gedanken darüber, wer prüft und was der Agent besser nicht tun soll. Nur bleiben diese Gedanken im Kopf. Ein halbes Jahr später weiß niemand mehr genau, was davon vereinbart war.
Deshalb schreiben wir es beim Bauen auf und nicht danach. Bei uns sitzt das an drei Stellen.
Beim Zuschnitt. Wer Rolle, Aufgabe und Kontext eines Agenten sauber beschreibt, hat die Einordnung faktisch schon vorgenommen. Über das Risiko entscheidet nämlich nicht das System, sondern der Einsatzzweck. Dasselbe Sprachmodell ist als interne Recherchehilfe unkritisch und im Bewerbungsprozess ein Hochrisiko-Fall. Ableiten lässt sich das nur aus der Frage, wofür der Agent da sein soll. Mit der beginnt ohnehin jedes vernünftige Agentenprojekt. Die KI-Verordnung formalisiert hier also, was Governance sowieso meint.
Bei den Leitplanken. Der System Prompt ist der Ort, an dem Grenzen tatsächlich wirken. Was der Agent nicht tun soll, wo er nachfragt, wann er abgibt: Das steht dort, nicht in einer Anlage zum Projekthandbuch.
Bei der Optimierung. Ein Agent, der ein Jahr läuft, macht selten dasselbe wie am ersten Tag. Aufgaben wachsen, Zugriffe kommen dazu, jemand hat eine Idee. Die Frage ist nicht nur, ob der Output besser wird, sondern ob sich der Einsatzzweck verschoben hat.
Wenn es mehr als ein Agent wird
Was wir dabei erlebt haben, passiert früher oder später in jedem Projekt. Angekündigt hat es sich vorher nie, und irgendwann reicht es nicht mehr, dass zwei Leute wissen, wie es gemeint war.
Deshalb halten wir drei Dinge schriftlich fest.
Die Agenten-Landkarte. Sie zeigt, was wo läuft: welche Agenten es gibt, aus welchen Quellen sie schöpfen, in welchen Teams sie im Einsatz sind und in welche Richtung das Ganze wächst. Wir legen sie früh an und schreiben sie fort. Für Governance ist sie das wichtigste davon, weil sich an ihr Fragen beantworten lassen, die sonst offenbleiben. Wer greift außer diesem einen Agenten noch auf diese Quelle zu? Was hängt an einer Änderung, die gerade harmlos aussieht? Und wenn ein Agent mehr Zugriff oder mehr Spielraum bekommen soll: Ist das noch derselbe Einsatzzweck wie am Anfang? Auf einer Übersicht sieht man das sofort. Über viele einzelne Dokumente verteilt sieht es niemand.
Das Agentenkonzept. Je Agent eine lesbare Bauanleitung. Sie hält fest, welche Rolle der Agent hat, welche Aufgaben er unterstützt, wo seine Grenzen liegen, wer prüft und freigibt und ab wann ihr das selbst verantwortet. Mit Versionsstand und Datum. Es ist das einzige Dokument, das auch jemand versteht, der nie mit dem Agenten arbeitet: Geschäftsführung, Datenschutz, Betriebsrat, die Nachfolgerin im Team. Was nur im System Prompt steht, ist für diese Leute unsichtbar.
Das übergreifende Konzept. Sobald mehrere Agenten zusammenarbeiten sollen, reicht das Einzelkonzept nicht mehr. Wer darf was, wo wird übergeben, wo greift der Mensch ein. Wir leiten es aus den Einzelkonzepten ab. Was vorher aufgeschrieben wurde, zahlt sich hier aus.
Beim dritten Punkt sind wir selbst noch am Anfang und probieren gerade aus, wie das aussehen kann. Eines ist uns dabei von vornherein klar: Wenn Agenten zusammenarbeiten, die einzeln noch nicht sauber laufen, vervielfachen sich ihre Fehler. Die Reife der einzelnen Agenten ist keine Vorstufe, die man überspringt. Sie ist die Voraussetzung.
Der Punkt, der bleibt
Eine Reihenfolge verhandeln wir nicht: Governance vor Autonomie. Erst die Leitplanken, dann die Freiheiten. Umgekehrt geht es eine Weile gut und dann nicht mehr.
Im Alltag heißt das bei uns: Der Agent schlägt vor, wir bestätigen, dann wird umgesetzt. Das ist kein Dogma, sondern die Konsequenz aus der Reihenfolge. Wie viel ein Agent allein erledigt, verschiebt sich mit seiner Reife und mit der Aufgabe. Was sich nicht verschieben darf, ist die Reihenfolge: Erst wird besprochen und aufgeschrieben, was er darf, dann bekommt er den Spielraum. Nicht andersherum, und nicht nebenbei.
Das klingt nach einer Bremse und ist das Gegenteil. Wer weiß, dass jemand draufschaut, kann den Agenten früher und mutiger einsetzen. Und wer die Leitplanken einmal bewusst gesetzt hat, kann sie später bewusst weiter stecken. Ohne sie wird jede Ausweitung zur Zitterpartie
Und dann?
Readiness klärt, ob das Team tragen kann. Governance klärt, wer was verantwortet. Bleibt die dritte Frage, und sie ist die unbequemste: Bringt das eigentlich etwas?
Darum geht es beim nächsten Mal.
Schreibt uns. Wir teilen unser Vorgehen gern.