Wir haben eine Richtlinie, einen Standard und ein Zertifikat — was belegen sie?
Auf einen Blick
Jedes dieser Elemente wird als KI-Governance-Framework des Instituts bezeichnet.
<strong>Keines davon beantwortet dieselbe Frage.</strong>
VorstandsfrageKann das Management zeigen, wie rechtliche Pflichten, organisatorische Governance, Risikoentscheidungen und Systemtests in einem einzigen nachvollziehbaren Operating Model zusammenwirken?
Situation
Das Management legt dem Vorstand eine am EU AI Act ausgerichtete KI-Richtlinie, ein Zertifizierungsprogramm nach ISO/IEC 42001, eine auf dem NIST AI Risk Management Framework basierende Risikomethodik und ein technisches Testverfahren vor.
Jedes dieser Elemente wird als KI-Governance-Framework des Instituts bezeichnet.
Keines davon beantwortet dieselbe Frage.
Die einzelnen Komponenten können gut ausgestaltet sein. Die Vorstandsfrage lautet, ob sie zusammen ein integriertes System bilden. Ein Rechtsrahmen definiert Pflichten. Ein Managementsystem legt fest, wie Governance betrieben wird. Eine Risikomethodik strukturiert Ermessensentscheidungen. Tests und Assurance liefern Nachweise dafür, dass beabsichtigte Ergebnisse und Kontrollen erreicht wurden.
- Ein Zertifikat ersetzt keinen regulatorischen Crosswalk.
- Eine Risikobewertung belegt nicht, dass eine Kontrolle funktioniert.
- Ein Testergebnis beweist nicht, dass die richtigen rechtlichen Pflichten identifiziert wurden.
Management Summary
Ein vollständiges KI-Governance-Framework besteht aus vier miteinander verbundenen Ebenen:
- Recht bestimmt, was verboten, verpflichtend oder an Bedingungen geknüpft ist.
- Das Managementsystem weist Verantwortlichkeiten zu und macht Governance wiederholbar.
- Die Risikomethodik bestimmt, wie Risiken klassifiziert, bewertet, akzeptiert und behandelt werden.
- Tests und Nachweise zeigen, wie Systeme und Kontrollen in der Praxis funktionieren.
Diese Ebenen ergänzen einander; sie sind nicht austauschbar.
ISO/IEC 42001 kann ein strukturiertes und zertifizierbares KI-Managementsystem bereitstellen. Die Norm begründet jedoch nicht automatisch die Einhaltung des EU AI Act für jedes KI-System oder jeden Anwendungsfall. Das europäische Normungsprogramm entwickelte EN 18286 speziell für die mit dem AI Act verbundenen Anforderungen an das Qualitätsmanagement, weil ISO/IEC 42001 nicht als vollständig deckungsgleich mit den Zielen und Definitionen dieser regulatorischen Anforderung angesehen wurde.
Der Vorstand sollte daher einen Framework Stack erwarten, nicht nur ein einzelnes Framework-Label.
Ein Institut kann ein Zertifikat kaufen. Einen belastbaren Crosswalk > kann es nicht kaufen.
Management-Report-Panel
Kalibrierung der Antwortqualität
Der RAG-Status kalibriert die Qualität der Antwort. Er bewertet nicht die Institution.
The Framework Stack
Jede Ebene beantwortet eine andere Frage. Keine beantwortet die jeweils nächste.
Wer antworten sollte
- Die Mitgliedschaft in einem Gremium ist nicht dasselbe wie persönliche Verantwortlichkeit.
- Die namentlich benannte Person muss die erforderliche Befugnis besitzen, den relevanten KI-Einsatz zu genehmigen, einzuschränken, auszusetzen oder zu eskalieren.
Nachweise, die der Vorstand anfordern sollte
- 01Unternehmensweites KI-Inventar
- 02Architekturkarte der Frameworks
- 03Regulatorischer Crosswalk
- 04Verantwortlichkeiten und Entscheidungsrechte
- 05Klassifizierungsmethodik
- 06Lifecycle-Kontrollkarte
- 07Folgen- und Risikobewertung
- 08Test- und Validierungsnachweis
- 09Erklärung zum Zertifizierungsumfang
- 10Vorstands-Reporting-Paket
Warnsignale
- “„Wir folgen dem NIST-Framework.”
- “„Wir sind am EU AI Act ausgerichtet.”
- “„Wir streben eine ISO-Zertifizierung an.”
- “„Der Anbieter hat das Modell getestet.”
- “„Ein Mensch genehmigt das Ergebnis.”
- “„Das ist durch die KI-Richtlinie abgedeckt.”
- “„Es ist nur ein internes Werkzeug.”
- “„Das Framework wird gerade ausgerollt.”
Keine dieser Aussagen ist notwendigerweise falsch. Sie reichen lediglich nicht als Grundlage für eine belastbare Vorstandsentscheidung aus.
Weg zu Grün
- Architektur benannt
- Crosswalk erstellt
- Klassifizierung bestimmt den Pfad
- Nachweisstandard definiert
- Drittparteien einbezogen
- Wirksamkeit überwacht
Ein rechtliches Inventar ohne Verbindung zu Kontrollen bleibt eine > Interpretation. Eine Kontrollbibliothek ohne Verbindung zum Recht > bleibt eine interne Designentscheidung.
Der Vorstand sollte nicht fragen, welchem Framework das Institut > folgt. Er sollte fragen, ob sich ein folgenreicher KI-Einsatz von der > Pflicht bis zum operativen Nachweis lückenlos nachverfolgen lässt.
Empfohlene nächste Frage
Nehmen Sie ein KI-System, das einen Kunden, Mitarbeitenden, eine Transaktion oder einen kritischen Prozess wesentlich beeinflussen kann. Kann das Management in einer einzigen Nachweiskette das anwendbare Recht, den verantwortlichen Owner, die genehmigte Risikoentscheidung, die operativen Kontrollen, Testergebnisse, den menschlichen Interventionsweg, Drittparteienabhängigkeiten und den aktuellen Produktionsstatus zeigen?
Ausgewählte Quellenbasis
- Verordnung (EU) 2024/1689 — Artificial Intelligence Act
- Verordnung (EU) 2026/1744 — Digital Omnibus on AI
- CEN-CENELEC — Artificial Intelligence and JTC 21
- CEN-CENELEC — EN 18286 in the Spotlight: Supporting Compliance with the AI Act
- ISO/IEC 42001:2023 — AI Management Systems
- ISO/IEC 42006:2025 — Certification of AI Management Systems
- NIST AI Risk Management Framework
- NIST Generative AI Profile — AI 600-1
- AI Verify Foundation — Testing Framework
- European Banking Authority — AI Act Implications for Banking and Payments
- IOSCO — Supervisory Toolkit for AI Use in Capital Markets
- OECD AI Principles
Experten-Kommentar — 5 Min. Lesezeit
Der Rechtsrahmen definiert die Pflicht
Die rechtliche Ebene bestimmt, welche Pflichten für ein KI-System gelten, welche regulatorische Rolle das Institut einnimmt und welche Nachweise für die Compliance erforderlich sind.
In der Europäischen Union steht der AI Act neben DSGVO, DORA und bestehenden sektoralen Anforderungen. Welche Pflichten gelten, hängt unter anderem vom vorgesehenen Zweck, der Systemklassifizierung, den betroffenen Personen, der organisatorischen Rolle und dem Einsatz in einem regulierten Prozess ab.
Für Hochrisiko-KI-Systeme adressiert der AI Act unter anderem Risikomanagement, Data Governance, technische Dokumentation, Aufzeichnungspflichten, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit und Qualitätsmanagement. Artikel 17 verpflichtet Anbieter, ein dokumentiertes Qualitätsmanagementsystem zu unterhalten, das die Einhaltung der Verordnung sicherstellt.
Das bedeutet nicht, dass eine Bank eine isolierte AI-Act-Kontrollstruktur aufbauen sollte. Bestehende Governance-Anforderungen bleiben relevant. DORA regelt IKT- und operationelle Resilienz. Die DSGVO begründet Rechenschaftspflichten für die Verarbeitung personenbezogener Daten und begrenzt bestimmte automatisierte Entscheidungen. Governance-, Auslagerungs-, Conduct- und Modellrisikoanforderungen des Finanzsektors können weiterhin für dasselbe System gelten.
Die rechtliche Ebene muss daher drei Fragen beantworten:
Ein rechtliches Inventar ohne Verbindung zu Kontrollen bleibt eine Interpretation. Eine Kontrollbibliothek ohne Verbindung zum Recht bleibt eine interne Designentscheidung.
Das Managementsystem macht Governance wiederholbar
ISO/IEC 42001 legt Anforderungen an ein KI-Managementsystem fest. Die Norm adressiert die organisatorischen Prozesse, mit denen KI-Governance eingerichtet, umgesetzt, aufrechterhalten und fortlaufend verbessert wird.
Ihr Wert liegt in der Wiederholbarkeit. Sie kann eine Struktur für Geltungsbereich, Richtlinien, Ziele, Verantwortlichkeiten, Risikoprozesse, Kompetenz, Kommunikation, Monitoring, interne Audits und kontinuierliche Verbesserung schaffen.
Eine Zertifizierung nach ISO/IEC 42001 ist daher ein aussagekräftiger Nachweis über einen definierten Managementsystem-Geltungsbereich. Sie belegt nicht automatisch, dass jeder KI-Anwendungsfall in diesem Geltungsbereich liegt oder dass jedes System den EU AI Act erfüllt.
Diese Abgrenzung wird durch EN 18286:2026 verstärkt, die erste europäische Norm, die zur Unterstützung der Umsetzung des AI Act veröffentlicht wurde. Sie adressiert das für regulatorische Zwecke erforderliche Qualitätsmanagementsystem, insbesondere nach Artikel 17.
CEN-CENELEC JTC 21 prüfte, ob ISO/IEC 42001 für die Qualitätsmanagementanforderung des Artikels 17 übernommen werden könnte. Da Ziele und Definitionen nicht als vollständig deckungsgleich mit dieser regulatorischen Anforderung angesehen wurden, wurde eine eigene europäische Norm entwickelt: EN 18286, *Artificial intelligence — Quality management system for EU AI Act regulatory purposes*.
Der Punkt ist nicht, dass ISO/IEC 42001 unzureichend wäre. Der Punkt ist, dass ein organisatorischer Managementsystemstandard und eine regulatorische Qualitätsmanagementanforderung nicht dasselbe belegen.
EN 18286 definiert Qualität im Verhältnis zur Einhaltung der anwendbaren Anforderungen des AI Act und nicht als Produktqualität im herkömmlichen Sinne von ISO 9001. Die Struktur erlaubt außerdem, die KI-spezifischen Anforderungen in ein bestehendes sektorales Qualitätsmanagementsystem zu integrieren, statt Organisationen zum Aufbau eines zweiten parallelen Systems zu zwingen.
Für Banken lautet das praktische Prinzip Integration. KI-Governance sollte bestehende Enterprise-, Technologie-, Daten-, Risiko- und Resilienz-Frameworks erweitern, sofern diese Strukturen weiterhin geeignet sind.
Artikel 40 des AI Act begründet eine Konformitätsvermutung nur, wenn die Fundstelle einer harmonisierten Norm im Amtsblatt der Europäischen Union veröffentlicht wurde, und nur für die Anforderungen, die diese Norm abdeckt. Ende Juli 2026 war die Fundstelle von EN 18286 noch nicht im Amtsblatt veröffentlicht.
Ein Institut kann ein Zertifikat kaufen. Einen belastbaren Crosswalk kann es nicht kaufen.
Der Vorstand sollte deshalb den genauen Zertifizierungsumfang, Ausschlüsse, erfassten Aktivitäten und die Beziehung zum KI-Inventar und zu den regulatorischen Pflichten anfordern.
Die Risikomethodik strukturiert Ermessensentscheidungen
Das NIST AI Risk Management Framework ordnet KI-Risikoaktivitäten in vier Funktionen:
Govern wirkt querschnittlich. Map bestimmt den Kontext und identifiziert betroffene Gruppen und Risiken. Measure bewertet und überwacht Systemverhalten und Risiko. Manage priorisiert und behandelt Risiken entsprechend den Zielen und Toleranzen der Organisation.
Damit entsteht eine gemeinsame Sprache für KI-Risiken, ohne ein bestimmtes regulatorisches Ergebnis oder einen bestimmten Kontrollsatz vorzuschreiben.
Das Framework kann unterstützen bei:
Das Framework bestimmt jedoch nicht, welche rechtlichen Pflichten gelten. Ebenso belegt eine abgeschlossene Risikobewertung nicht, dass eine Maßnahme wirksam funktioniert.
Die Klassifizierung sollte den Governance-Pfad bestimmen. Sie sollte nicht nur ein Reporting-Feld befüllen.
Eine folgenreiche Kundenentscheidung, ein internes Produktivitätswerkzeug mit niedrigem Risiko und ein autonomer Agent mit Produktionszugriff sollten nicht denselben Freigabe-, Test- und Überwachungspfad durchlaufen. Jeder Anwendungsfall sollte jedoch einem definierten Pfad folgen, der erklärt und belegt werden kann.
Der Vorstand sollte erwarten, dass jede wesentliche Risikoentscheidung verbunden ist mit:
Tests und Assurance erzeugen Nachweise
Tests übersetzen Governance-Aussagen in prüfbare Nachweise.
AI Verify veranschaulicht diese Ebene anhand von elf Governance-Prinzipien. Jedes Prinzip ist mit Zielergebnissen, Prozessen und dokumentarischen Nachweisen verbunden. Das Framework kombiniert technische und nichttechnische Bewertungen, statt vertrauenswürdige KI ausschließlich als Frage der Modellleistung zu behandeln.
Tests und Assurance können umfassen:
Der relevante Test hängt vom vorgesehenen Einsatz ab. Ein Modell kann in einem allgemeinen Benchmark gut abschneiden und dennoch für eine bestimmte Entscheidung, Kundengruppe, Betriebsumgebung oder Risikotoleranz ungeeignet sein.
Die Aussage, ein Mensch bleibe „in the loop", ist keine Kontrollbeschreibung. Der Governance-Nachweis sollte festhalten, was die Person entscheidet, welche Informationen zur Verfügung stehen, wie viel Zeit für eine Intervention besteht und ob die Person befugt ist, das Ergebnis zu verändern.
Dieselbe Disziplin gilt für externe Zertifizierungen. ISO/IEC 42006 legt Anforderungen an Stellen fest, die KI-Managementsysteme auditieren und zertifizieren. Die Norm stärkt das Vertrauen in den Zertifizierungsprozess; sie erweitert nicht den Umfang dessen, was ISO/IEC 42001 zertifiziert.
Der Vorstand muss keine einzelnen Testskripte genehmigen. Er sollte vom Management verlangen, Folgendes zu erklären:
1. welches Ergebnis getestet wird, 2. warum die Methode geeignet ist, 3. welche Akzeptanzschwelle gilt, 4. wer eine Ausnahme genehmigen darf, 5. wie lange der Nachweis gültig bleibt, 6. und welche Änderungen eine Neubewertung auslösen.
Der Zweck der Vorstandsberichterstattung besteht nicht darin, das KI-Inventar zu reproduzieren. Sie soll zeigen, ob das Governance-System wirksam bleibt und wo eine Entscheidung erforderlich ist.