Verantwortung ohne Ausführung
Wie Organisationen eine hybride Wertschöpfung führbar und nachweisbar halten, wenn Maschinen einen wachsenden Teil der Prozesse ausführen. Ein Managementsystem verschwindet dabei nicht. Sein Gegenstand verschiebt sich.
Brauchen wir Managementsysteme noch, wenn Maschinen die Prozesse ausführen?
Wähle deine Perspektive
Vier Einwände fallen in jedem Raum. Jeder hat einen richtigen Kern, keiner trifft. Eine fünfte Stimme kommt aus dem Audit, und die trifft ins Zentrum (8.6). Wähle die Rolle, aus der du liest: Die Seite zeigt dir dann orange Hinweise und eine Route durch die Stationen.
Nicht „KI ist neu“, sondern: Die Eingriffstiefe ist neu. Wir erfinden Managementsysteme nicht neu. Wir erweitern bestehende Systeme gezielt um die explizite Steuerung von KI-Autonomie.
Der Bruch: Warum die alte Antwort nicht mehr trägt
Eine Verfahrensanweisung hat funktioniert, weil ein Mensch sie gelesen und danach gehandelt hat. Führt ein Agent den Schritt aus, liest er sie nicht. Das Dokument existiert weiter. Ob es noch etwas bewirkt, ist eine andere Frage.
Fünf Funktionen eines Managementsystems, und was KI mit ihnen macht
Klicke eine Funktion an. Die Lesart ist entscheidend: Genau eine der fünf erodiert, nämlich die dokumentenzentrierte Nachweisform.
Ein Managementsystem ist ein „set of interrelated or interacting elements of an organization to establish policies and objectives, as well as processes to achieve those objectives“ (Annex SL; sinngleich ISO 9000:2015, 3.5.3). Dokumentierte Information ist ein Mittel, nicht das Wesen des Systems. ISO 9001 verlangt sie im erforderlichen Umfang (4.4.2, 7.5.1); ISO/IEC 42001 verlangt ausdrücklich, das KI-Managementsystem zu dokumentieren (4.4). Normativ ist das System auf seine beabsichtigten Ergebnisse ausgerichtet (ISO 9001, 4.1, 5.1.1, 6.1): Nachweise dienen diesen Ergebnissen, sie ersetzen sie nicht.
Zwei Konsequenzen: Die beschriebene Verschiebung ist kein Bruch mit der Norm, sondern eine Rückkehr zu ihr. Und Zertifizierung ist etwas anderes als das Managementsystem: „Brauchen wir Managementsysteme?“ und „Brauchen wir Zertifikate?“ sind zwei Fragen.
Die allermeisten Organisationen werden nie alle Prozesse durch KI ausführen lassen. Hybride Ausführung ist kein Übergangsphänomen, sondern der Dauerzustand, und die Grenze wandert in beide Richtungen.
Das Managementsystem muss deshalb zweisprachig werden, ohne zweiteilig zu werden: ein Register des Verstehens für Menschen und ein Register der Konfiguration für Maschinen. Die größte Designgefahr: zwei parallele Systeme, ein QMS für Menschen und eine „AI Governance“ daneben.
der deutschen Unternehmen nutzen KI in Geschäftsprozessen (ifo, Mai 2026).
entwickeln eigene KI-Systeme. Die technische Nachweisfähigkeit für Modellverhalten liegt für die große Mehrheit auf der Herstellerseite.
Die schweren Pflichten des AI Act (Art. 17, technische Dokumentation, Post-Market-Monitoring) liegen beim Anbieter. Wer Copilot, einen SaaS-Chatbot oder ein OCR-Werkzeug einsetzt, ist typischerweise Betreiber: wissen, wo KI wirkt; die Rolle klären; Transparenzpflichten erfüllen; Aufsicht real machen; Kompetenz aufbauen.
Allokation: Wer oder was führt aus?
Bisher war die Zuordnung von Arbeit zu den Ausführenden eine Frage der Personalplanung. Künftig ist sie eine Frage der Systemarchitektur: eine lenkungspflichtige Managemententscheidung mit Begründung, Freigabe und Überprüfung. Maschinen führen dabei keine Prozesse aus, sondern definierte Prozessschritte.
Prüfe einen Prozessschritt: sechs Kriterien, eine Stufe
Beantworte die Fragen für einen konkreten Prozessschritt deiner Organisation. Der Check leitet die höchste vertretbare Autonomiestufe ab und nennt für jede Begrenzung den Grund. Das Papier nennt die Kriterien (6.1, 6.5) und die Volumenregel (6.3), aber keine Stufentabelle: Die Zuordnung der Antworten zu Stufen ist eine Ableitung dieser interaktiven Fassung.
Das Autonomiestufenmodell A0 bis A4
„Human in the loop“ als Häkchen ist keine Steuerung. Die produktive Frage lautet nicht „darf KI das?“, sondern: auf welcher Stufe, und was schulden wir dieser Stufe an Kontrolle? Wähle eine Stufe.
Ein agentisch ausgeführter Schritt darf nur dann auf eine hohe Autonomiestufe freigegeben werden, wenn sein Durchsatz ausreicht, um die Ziel-Verletzungsrate innerhalb der geforderten Reaktionszeit statistisch zu überwachen. Andernfalls ist die Stufe zu senken oder die Zielrate zu lockern. Das Monitoring zu simulieren, ist keine Option.
| Erwartete Verletzungsrate | Mindestzahl Läufe je Kontrollperiode |
|---|---|
| 5 % | ≥ 100 |
| 1 % | ≥ 500 |
| 0,5 % | ≥ 1.000 |
| 0,1 % | ≥ 5.000 |
Modelle werden abgekündigt, Anbieter ändern Konditionen, ein Agent verhält sich nach einem Update anders als validiert, ein Vorfall erzwingt den Stopp. Ein Prozess, den die Maschine ausführt, muss im Störfall wieder von Menschen übernommen werden können: vielleicht langsamer, vielleicht teurer, aber beherrscht.
Der Erhalt menschlicher Ausführungskompetenz ist damit eine Resilienzanforderung, keine nostalgische Geste. Ihre unbequeme Ökonomie folgt in Station 5.
Steuerung: Eine Absicht, zwei Register
Für Menschen bleibt die Steuerung über Verstehen, aber sie darf ehrlicher werden. Für Maschinen wird die Absicht der Leitung nicht mehr beschrieben, sondern konfiguriert. Und dann kommt das probabilistische Problem.
Schrumpfen auf das, was trägt
Wenn das entscheidungslose Verrichten an Maschinen geht, bleibt für Menschen das Handeln unter Unsicherheit. Das steuert man nicht mit Schrittfolgen, sondern mit Zielen, Prämissen, Grenzen und Befähigung.
Die menschengerichtete Dokumentation schrumpft auf Orientierung: das Warum, die Leitplanken, die Eskalationswege. Die Schrittfolge bleibt dort, wo sie hingehört: in Systemen, Workflows und der Ausbildung.
Dokumentierte Information kompiliert
Die Absicht wird konfiguriert: in Systemprompts und Policies, Workflow-Definitionen, Guardrail-Regeln, Testfällen und Abnahmekriterien. Ein Systemprompt, der das Verhalten eines Agenten in einem wertschöpfenden Prozess bestimmt, ist dokumentierte Information im vollen Normsinn: Versionierung, Freigabe, Änderungslenkung, Archivierung.
Kapitel 7.5 der ISO 9001 verschwindet nicht. Es kompiliert.
Der Prompt ist eben nicht die Verfahrensanweisung
Ein Agent befolgt seinen Prompt statistisch. Dieselbe Anweisung, hundertmal ausgeführt, ergibt eine Verteilung von Verhalten, keine Wiederholung. Nicht-Determinismus ist nicht abschaltbar, Zuverlässigkeit skaliert nicht mit Fähigkeit, und ein Upgrade auf ein „besseres“ Modell kann die Konformitätslage verschlechtern.
Rechne es nach: „kann“ gegen „tut es verlässlich“
Die Zahlen im Papier sind eigene Berechnungen aus der Binomialmultiplikation. Bewege die Regler.
Jede Prozessfreigabe, die auf einer einzelnen gelungenen Demonstration beruht, misst einen Bestfall und behauptet implizit dauerhafte Konsistenz. Das Kürzen von Prozessen wird im Agentenzeitalter zum Konformitätsargument: Jeder gelöschte Schritt entfernt einen multiplikativen Fehlerterm.
Regeltreue sinkt, je mehr ein Agent gleichzeitig im Blick behalten muss. Das beobachte ich in eigener Arbeit, bisher ohne systematische Messung, und die Forschung zeigt dasselbe Muster: Selbst das beste von 20 getesteten Modellen befolgt bei 500 gleichzeitigen Anweisungen nur rund zwei Drittel davon, und was in der Mitte eines langen Kontexts steht, nutzen sie schlechter als Anfang und Ende (Jaroslawicz u. a. 2025; Liu u. a. 2024).
Zielkonflikt zwischen Aufgabenerfüllung und Regelbefolgung. Modelle sind darauf trainiert, Aufgaben zu erledigen, und übergehen mitunter eine Regel, die im Weg steht, auch wenn sie ausdrücklich gilt. Tests zeigen, dass aktuelle Modelle Prüfroutinen manipulieren, um eine Aufgabe als gelöst zu melden (von Arx u. a. 2025; Zhong u. a. 2025). Beseitigt ist das bisher nicht.
Guardrails regeln die Maschine, nicht die Organisation. Das Managementsystem definiert, welche Guardrails nötig sind, wer sie freigibt, wie sie überwacht werden und was passiert, wenn sie nicht greifen.
Ein Guardrail, der die falsche Bedingung durchsetzt, ist perfekt wirksam und trotzdem wertlos. Die Frage, welche Nebenbedingung richtig und vollständig ist, beantwortet keine Bibliothek und keine Plattform.
Konformität wird von einem Zustand zu einer Verteilung. An die Stelle von Schulung und Unterweisung treten Evaluationen, an die Stelle der Dienstaufsicht tritt Monitoring im Betrieb.
Nachweis: Vom Dokument zum Trace
Der Markt fragt weiter nach Nachweisen und Zertifikaten. Diese Anforderung verschwindet nicht, sie verschärft sich, und sie verschiebt ihren Gegenstand. Wer gehofft hat, mit den Agenten verschwinde die Nachweispflicht, erlebt das Gegenteil: Es kommt Nachweispflicht für die Agenten hinzu.
Was eine fehlerfreie Stichprobe wirklich belegt
Ein Audit ist ein Nullfehler-Annahmetest. Die einseitige obere 95-%-Vertrauensgrenze für die wahre Verletzungsrate nach n fehlerfreien Beobachtungen ist pmax = 1 − 0,051/n. Nach Erfahrungswerten prüft ein Stage-2-Audit je Prozess fünf bis zwanzig Nachweise.
Bei menschlichen Prozessen ist die kleine Stichprobe trotzdem legitim, weil ein Strukturmodell sie kompensiert: Schulung, Anweisung, Aufsicht, soziale Normen. Bei Agenten fällt genau dieses Strukturmodell weg. Und selbst ein ausreichender Prüfumfang wäre am Tag des nächsten Modellupdates ungültig.
Wie viele Fälle je Vergleichsperiode braucht man, um eine Verschlechterung überhaupt zu erkennen? Zwei-Proportionen-Test, α = 5 %, Power 80 %.
Zum Vergleich aus dem Papier: 1 % auf 2 % braucht 2.319 Fälle, 5 % auf 10 % braucht 435, 0,1 % auf 0,2 % braucht 23.511. Für die typischen KI-Anwendungsfälle kleiner und mittlerer Organisationen ist eine monatliche Regelkarte statistisch wertlos.
Fünf Prüffragen, eine Ebene höher
Eine perfekt überwachte falsche Bedingung ist wertlos. Eine Urteilsfrage, keine Datenfrage. Hier liegt die Zukunft des Auditberufs.
Prüfmittelüberwachung (ISO 9001, 7.1.5), angewandt auf Compliance-Telemetrie. Praktisch niemand tut es.
Wer kann Protokolle löschen? Ist die Kette Agent, Log, Auswertung, Aussage integritätsgesichert?
Kontinuierliche Überwachung ohne kontinuierliche Reaktion erzeugt dokumentierte Kenntnis von Nichtkonformität. Vor Gericht schlechter als keine Überwachung.
Aufsicht mit realer Kontrollspanne ist prüfbar, behauptete Aufsicht nicht.
Wer Dashboards einführt, muss den Reaktionsprozess zuerst bauen.
Fristen des EU AI Act nach dem Digital Omnibus
Verschoben wurden die Hochrisiko-Pflichten, nicht die Transparenzpflichten und nicht die Durchsetzungsbefugnisse. Beide sind seit dem 2. August 2026 aktiv. „Verschoben“ heißt nicht „später anfangen“. Der Grund für die Verschiebung war Vollzugsunfähigkeit, nicht Deregulierungsabsicht.
Regulatorische Daten sind im Papier aus Sekundärquellen übernommen und vor jeder Verwendung in Kunden-, Schulungs- oder Prüfmaterial gegen Primärquellen nachzuziehen (Belegstand, Punkt 1).
Zwei parallele Managementsystemnormen für KI
| ISO/IEC 42001 | EN 18286 | |
|---|---|---|
| Charakter | freiwilliges, organisationsweites AI-Managementsystem (Harmonisierte Struktur) | regulatorisches QMS für Art. 17 AI Act, produktbezogen |
| Reichweite | weltweit zertifizierbar | europäisch, für den Marktzugang hochrisikorelevanter Systeme |
| Rechtswirkung | keine Konformitätsvermutung nach Art. 40 AI Act | Vermutungswirkung erst mit Zitierung im EU-Amtsblatt |
Beide ergänzen sich, sie ersetzen sich nicht. Die geforderten „Governance-Systeme“ für die Führung von KI-Agenten existieren seit 2023: ISO/IEC 42001 ist das Managementsystem, dessen Regelungsgegenstand die KI-Systeme sind, die ausführen. Das Managementsystem verschwindet nicht. Es steigt eine Ebene auf. Ehrlich dazu: Branchenkompilationen zählen für Mitte 2026 rund 350 zertifizierte Organisationen weltweit. Die Struktur ist da, der Markt noch nicht.
Vertrauen: Die Beruhigung ehrlich ersetzen
Die Beschreibung beruhigt. Das Bedürfnis dahinter ist legitim: Eine Organisation, die Verantwortung trägt, braucht ein begründetes Verhältnis zu dem, was in ihrem Namen geschieht. Illegitim ist nur die bisherige Deckung: gefühlte Kontrolle durch Papier.
Von dieser Frage aus ergänzen sich die Fachsichten von selbst: Das Risikomanagement definiert Auswirkungen zuerst für die Kundschaft. Die Rechtsseite macht Verantwortlichkeiten glasklar. Das Audit verlangt Belege statt Absichten. Und aus Führungssicht gilt: Vertrauen ist ein Versprechen. Vom Vertrauensversprechen zur internen Kontrolle, nicht umgekehrt.
Der Black-Box-Einwand trifft, wenn man Verstehen als Einblick in Modellinterna definiert. Verantwortbar wird ein System auf einer anderen Ebene: Die Verantwortlichen müssen verstehen, was es darf und nicht darf, mit welchen Daten es arbeitet, wogegen es validiert wurde, woran man erkennt, dass es seine Grenzen verlässt, und wie man eingreift. Das ist Verstehbarkeit der Architektur, nicht des Modells, und sie ist herstellbar.
Eine technische Dokumentation für Maschinen (Konfigurationen, Schnittstellen, Regeln, Testfälle) und eine menschliche, die erklärt, warum etwas passiert, nicht wie. Die Warum-Dokumentation ist keine Beruhigungsprosa. Sie ist die Grundlage der Aufsichtsfähigkeit, und KI kann sie zielgruppengerechter aufbereiten, als es uns bisher gelingt.
Automation Bias ist kein Charakterfehler, sondern der Normalzustand von Menschen, die einem meist zuverlässigen System zusehen. Und die Kontrollspanne pro Mensch steigt drastisch: Wer zwanzig oder vierzig agentische Abläufe verantwortet, braucht ein System, das bei Grenzverletzungen unterbricht. Aufsichtsfähigkeit ist eine Frage der Ausnahmesteuerung, nicht der individuellen Sorgfalt.
Urteilskraft entsteht nicht im Hörsaal, sondern im routinierten Verrichten. Wer heute souverän die Ausnahme erkennt, hat das in tausend Normalfällen gelernt, genau jenen, die künftig die Maschine übernimmt. Das Managementsystem der Zukunft muss Lernräume bewusst erhalten, die es betriebswirtschaftlich nicht bräuchte. Und es muss festlegen, wo die Maschine lernen darf und wo ausdrücklich nicht.
Ein Managementsystem, das menschliche Urteilskraft nicht aktiv schützt, verliert nicht nur Kompetenz. Es verliert seine Verantwortungsfähigkeit: genau das, wofür es da ist.
Die Gegenposition: Es ändert sich nichts Wesentliches
Ein Papier, das eine Verschiebung behauptet, muss die Gegenthese in ihrer stärksten Form aushalten. Sie ist empirisch besser belegt, als es der Fachöffentlichkeit lieb sein kann, und sie korrigiert die eigene These an drei Stellen.
Die Empirie hinter der Nullhypothese (10.1, 10.2)
Gegenevidenz der Fairness halber: Eine Meta-Analyse zu ISO 14001/EMAS über 60 Studien findet positive Zusammenhänge mit Finanzperformance, schreibt sie aber maßgeblich einem Selektionseffekt zu. Bessere Performer zertifizieren sich.
Selbst erzwungener Nachweis wird nicht erbracht, wenn die Organisation keine Steuerungsnotwendigkeit sieht. Der Engpass ist nicht die Auflösung des Nachweises, sondern Aufmerksamkeit, Personal und Zahlungsbereitschaft für Compliance überhaupt.
| Anwendungsfall (Annahme) | Fälle/Monat | Obergrenze bei 0 Fehlern |
|---|---|---|
| KI-Angebotstexte, 3/Woche | 12 | 22,1 % |
| Vorsichtung Bewerbungen, 60/Jahr | 5 | 45,1 % |
| Belegextraktion | 200 | 1,5 % |
| Kundenchat, 30/Woche | 120 | 2,5 % |
Statistische Nachweisführung ist nicht falsch, sondern an ein Segment gebunden: Hochvolumen-Anwendungen und Anbieter mit eigener Modellentwicklung. Sie ist nicht das Programm für die Mehrheit.
Was von der Nullhypothese bleibt, und was nicht (10.6)
- Die Volumengrenze ist real. Statistische Nachweisführung gehört an Hochvolumen-Prozesse. Wo sie nicht trägt, gehört die Autonomiestufe gesenkt.
- Die Rollenfrage entscheidet die Anforderungshöhe. Die schweren Pflichten sitzen beim Anbieter.
- Der Engpass ist Kapazität und Wille, nicht Technik. Eine Nachweisarchitektur, die niemand liest, betreibt oder bezahlt, ist kein Fortschritt gegenüber einem Ordner, den niemand liest.
- „Nicht messbar“ heißt nicht „nicht wirksam“. Der Gujarat-Befund schneidet in beide Richtungen: Als die Anreize korrigiert wurden, sank die Belastung tatsächlich.
- Der Kanal, der die Anreizstruktur zuerst ändert, ist nicht der Gesetzgeber. Versicherer bezahlen Schäden und haben ein direktes Interesse an Nachweisauflösung. Einkaufsseitig getriebene Prüfungen finden mehr Befunde.
- Die Nullhypothese beantwortet die Nachweisfrage, nicht die Steuerungsfrage. Die Lücke bleibt: Eine Organisation verantwortet, was sie nicht mehr selbst ausführt.
Die Nullhypothese ist auf der Ebene des Zertifikatsmarkts weitgehend richtig und auf der Ebene der Verantwortungsfähigkeit weitgehend irrelevant. Wer sie als Ruhekissen liest, liest sie falsch.
Die Antwort: Von der Prozessbeherrschung zur Vertrauensarchitektur
Ja, wir brauchen Managementsysteme, dringender als bisher, aber anders als bisher. Nicht weil der Markt Zertifikate verlangt, sondern weil die Lücke zwischen dem, was eine Organisation verantwortet, und dem, was sie selbst ausführt, größer wird.
Vier Funktionen, gestern und morgen (11)
Die Vertrauensarchitektur in acht Bausteinen (11.1)
„Vertrauensarchitektur“ wirkt als Wort groß. Konkret gemeint ist ein Set aus acht Bausteinen, das technische Sicherungen mit Verantwortungs- und Nachweislogik verbindet. Bewerte jeden Baustein für deine Organisation von 0 bis 3. Skala und Lesart sind eine Ergänzung dieser Fassung, nicht Teil des Papiers. Das Profil bleibt nur in deinem Browser.
Fünf Dinge, die das Managementsystem können muss (11.3)
statt eines reinen Verfahrensverzeichnisses: explizite, prüfbare Nebenbedingungen, formuliert auch als Ausschlusskriterien.
Kontrolltiefe als Funktion der Autonomie, mit der Volumenregel als Freigabekriterium.
Demings Punkt 3, angewandt auf agentisches Verhalten, mit ehrlich dimensionierten Kontrollperioden.
Modellwechsel und Grenzverletzung als Auslöser, nicht der Jahresrhythmus.
Lernräume und Rückholbarkeit als bewusste, bezahlte Resilienzanforderung.
Prozesslandkarte mit Ausführungsattribut je Schritt, schlanke Orientierungsdokumente, gelenkte maschinengerichtete Artefakte, Evaluation und Monitoring als Kernprozess, ereignisgetriggerte Zwischenbewertungen.
Wir brauchen nicht weniger Managementsystem, sondern ein Managementsystem, das messen kann, was es behauptet, und das ehrlich sagt, wo es nicht messen kann.
Was offen bleibt
Ein Papier, das mit einer offenen Frage begann, sollte ehrlich benennen, was offen bleibt. Acht Fragen, an denen die Diskussion weitergeht. Genau das soll sie.
Arbeitsstand, kein Gutachten. Regulatorische Daten und Normstände stammen aus Sekundärquellen und sind vor jeder Verwendung in Kunden-, Schulungs- oder Prüfmaterial gegen Primärquellen nachzuziehen. Alle statistischen Tabellen sind eigene, nachrechenbare Berechnungen.
Denkwerkzeuge, keine Normeninhalte. Das Autonomiestufenmodell A0 bis A4, die Volumenregel und die Fünf-Funktionen-Zerlegung sind analytische Konstruktionen des Papiers. Die Marktzahl zu ISO/IEC 42001 ist eine Größenordnung aus Branchenkompilationen ohne offizielles Register.
Korrigiert am 30. September 2026. Abschnitt 3 (Dokumentation und Ergebnisausrichtung normgenau belegt), 7.3 (eigene Befunde als Beobachtungen ohne systematische Messung, eingeordnet in veröffentlichte Forschung) und 8.3 (Stichprobenumfang als Erfahrungswert). Einzelheiten im PDF unter Belegstand.
Dieses Papier ist ein Arbeitsstand, kein Schlusswort. Widerspruch ist ausdrücklich erwünscht, am liebsten öffentlich.