Autonomie in drei Stufen

Die erste Frage vor einem Automatisierungsprojekt ist selten technisch. Sie lautet: Was darf das Ding allein tun? Wir beantworten sie in drei Stufen, und wir bauen jedes Vorhaben so, dass die Stufe eine Einstellung ist und kein Umbau.

Stufe 1: lesen und vorschlagen

Der Agent liest den Vorgang, schlägt im Zielsystem nach und legt das fertige Ergebnis vor. Er schreibt nichts. Diese Stufe wirkt wie verlorene Zeit, weil ein Mensch am Ende trotzdem alles eintippt. Sie ist der wichtigste Teil des Projekts.

In Stufe 1 sieht man nämlich, wo die eigenen Vorgaben unscharf sind. Jede Korrektur an einem Vorschlag ist ein Fall, den der Agent in Stufe 3 falsch gemacht hätte. Bei uns waren die häufigsten Korrekturen nie technischer Art. Es waren Fälle, in denen zwei Menschen im Betrieb es unterschiedlich gemacht hätten.

Stufe 2: anlegen nach Freigabe

Der Agent legt den Vorgang an, nachdem ein Mensch zugestimmt hat. Die Kette ist dieselbe wie in Stufe 1, nur der letzte Schritt ist scharf. Hier verschiebt sich die Arbeit: Der Mensch prüft statt zu tippen. Das ist der Punkt, an dem die meiste Zeit gespart wird, und für viele Abläufe ist es die Endstufe. Nicht jeder Vorgang muss ohne Blick auskommen.

Stufe 3: eindeutige Fälle allein

Der Agent erledigt eindeutige Fälle selbst und meldet sie. Unsichere fallen zurück in die Freigabe. Der Übergang von Stufe 2 auf 3 ist eine Konfiguration, keine neue Kette.

Entscheidend ist die Definition von eindeutig, und die kommt aus Stufe 1. Wer diese Definition nicht sauber hinbekommt, bleibt auf Stufe 2, und das ist kein Scheitern.

Was in allen drei Stufen gleich bleibt

• Nicht raten. Fehlt eine sichere Zuordnung, wird nichts angelegt, sondern gemeldet.
• Enger Rechterahmen. Ein eigener technischer Benutzer mit genau den Rechten, die die Aufgabe braucht. Wer nur lesen darf, kann sich irren, ohne Schaden anzurichten.
• Schutz gegen Doppelarbeit. Eine Referenz, an der sich erkennen lässt, dass ein Vorgang schon existiert.
• Protokoll. Wann, aus welcher Quelle, mit welchem Ergebnis.

Grenzen gehören in die Rechte, nicht in die Anweisung

Eine Anweisung im Prompt ist eine Bitte. Ein Modell hält sich meistens daran, und meistens ist bei einer Grenze, die wirklich zählt, zu wenig. Was ein Agent nicht tun soll, sollte er technisch nicht können.

Wir haben das bei einem eigenen Agenten so gebaut, dass ihm die Berechtigung zum Versenden schlicht fehlt. Er kann Entwürfe schreiben und sonst nichts. Der Unterschied zur Prompt-Regel ist nicht theoretisch: Eine Prompt-Regel überlebt keine ungewöhnliche Eingabe, eine fehlende Berechtigung schon.