EU AI Act: Was die Interne Revision bei KI-Systemen jetzt prüfen muss

Der EU AI Act schafft erstmals einen unmittelbar geltenden europäischen Rechtsrahmen für künstliche Intelligenz. Für Unternehmen ist dabei nicht allein entscheidend, welche Technologie eingesetzt wird. Maßgeblich sind unter anderem der konkrete Verwendungszweck, die eigene Rolle als Anbieter oder Betreiber und die mit dem Einsatz verbundene Risikokategorie.

Für die Interne Revision entsteht daraus ein neues Querschnittsthema. KI kann in Personalprozessen, Kreditentscheidungen, Kundenservice, Betrugsprävention, Produktion, Marketing oder bestehenden SaaS-Anwendungen eingesetzt werden. Die Revision muss deshalb sowohl die Einhaltung bereits geltender Vorschriften als auch die Vorbereitung auf die später anwendbaren Hochrisiko-Anforderungen in ihr Prüfungsuniversum aufnehmen.

Hinzu kommt eine wesentliche Änderung aus dem Jahr 2026: Mit der Verordnung (EU) 2026/1744 wurde der AI Act angepasst. Sie ist seit dem 27. Juli 2026 in Kraft und verschiebt insbesondere die Anwendung der zentralen Hochrisiko-Vorschriften.

Dieser Beitrag zeigt konkret, was die Interne Revision beim Einsatz von KI-Systemen jetzt prüfen sollte – risikoorientiert, regulatorisch sauber und auf belastbare Prüfungsnachweise ausgerichtet.

Was ändert der EU AI Act für die Interne Revision?

Der AI Act folgt einem risikobasierten Ansatz. Für die Revision bedeutet dies, dass KI-Systeme nicht pauschal mit demselben Prüfprogramm untersucht werden können. Ausgangspunkt muss vielmehr die regulatorische Einordnung des konkreten Use Cases sein.

Dabei folgt für die Interne Revision eine mehrstufige Aufgabe: Sie muss feststellen, wo KI eingesetzt wird, die regulatorische Klassifizierung nachvollziehen und anschließend prüfen, ob die für den jeweiligen Einsatz geltenden organisatorischen und technischen Kontrollen angemessen ausgestaltet und wirksam sind. Das IIA versteht die Interne Revision dabei sowohl als möglichen Berater als auch als unabhängigen Assurance Provider; mit zunehmender KI-Reife der Organisation verschiebt sich der Schwerpunkt stärker auf die Prüfung der Wirksamkeit etablierter Kontrollen.

Die wesentlichen Prüffelder sind:

• Vollständigkeit und Aktualität der erfassten KI-Anwendungen.
• Einordnung der Rolle als Anbieter, Betreiber oder anderer Akteur.
• Prüfung auf verbotene KI-Praktiken nach Art. 5.
• Einhaltung der bereits geltenden Transparenzpflichten nach Art. 50.
• Klassifizierung möglicher Hochrisiko-KI nach Art. 6 und Anhang III bzw. Anhang I.
• AI Governance, Richtlinien, Verantwortlichkeiten und KI-Kompetenz.
• Datenqualität, Bias, technische Kontrollen und Nachvollziehbarkeit.
• Human Oversight, Monitoring und Protokollierung.
• Drittanbieter- und Vertragsmanagement.
• Anpassung des Prüfungsuniversums und der eigenen Revisionskompetenzen.

KI-Inventar und Klassifizierung: Ausgangspunkt der KI-Prüfung

Eine belastbare Prüfung setzt zunächst Transparenz darüber voraus, welche KI tatsächlich eingesetzt wird. Gerade bei Cloud- und SaaS-Anwendungen können KI-Funktionen Bestandteil bestehender Software sein, ohne dass ein eigenständiges KI-Projekt existiert.

Das IIA empfiehlt der Internen Revision ausdrücklich, gemeinsam mit dem Management ein Inventar aktueller und geplanter KI-Anwendungen aufzubauen bzw. zu überprüfen und regelmäßig fortzuschreiben. Das Inventar soll unter anderem Zweck und Ziel der KI, Nutzer, verantwortliche Stellen, eingesetzte Tools, Risiken und Überwachungsverantwortung erfassen.

Für die Revision sollte das Inventar zusätzlich die regulatorische Einordnung enthalten:

KI-System → Use Case → Fachverantwortlicher → Anbieter → Betreiber → Daten → betroffene Personen → Risikoklasse → geltende Pflichten → Freigabestatus.

Anschließend ist die Risikoklassifizierung nachzuvollziehen. Besonders relevant sind die Hochrisiko-Anwendungsfälle des Anhangs III. Hierzu zählen beispielsweise KI-Systeme für Recruiting und Bewerberauswahl sowie Systeme für Entscheidungen über Arbeitsbedingungen, Beförderung oder Beendigung von Arbeitsverhältnissen, für bestimmte Aufgabenverteilungen sowie für die Überwachung oder Bewertung von Beschäftigten.

Allerdings ist nicht jedes System allein deshalb hochriskant, weil sein Themengebiet in Anhang III erscheint. Art. 6 Abs. 3 enthält Ausnahmen, etwa für eng gefasste Verfahrensaufgaben oder bestimmte vorbereitende Tätigkeiten, wenn das System kein erhebliches Risiko birgt und die Entscheidung nicht wesentlich beeinflusst. Führt das System jedoch Profiling natürlicher Personen durch, greift diese Ausnahme nicht.

Prüfungsschwerpunkte für die Interne Revision:

• Ist die KI-Landschaft vollständig erfasst?
• Wurden auch KI-Funktionen innerhalb bestehender SaaS- und Cloud-Anwendungen berücksichtigt?
• Ist für jeden wesentlichen Use Case die Rolle des Unternehmens dokumentiert?
• Ist die Einstufung nach Art. 5, Art. 6, Anhang III und Art. 50 nachvollziehbar?
• Sind Ausnahmen von der Hochrisiko-Klassifizierung fachlich begründet?
• Wird die Klassifizierung bei Änderungen des Use Cases oder der Systemfunktion erneut beurteilt?

Die Klassifizierung ist kein rein formaler Schritt. Sie entscheidet darüber, welche konkreten Pflichten anschließend zu prüfen sind.

Verbotene KI-Praktiken: Art. 5 als erster Compliance-Filter

Bestimmte KI-Anwendungen dürfen unabhängig von ihrer wirtschaftlichen Zweckmäßigkeit nicht eingesetzt werden. Die wesentlichen Verbote des Art. 5 gelten bereits seit dem 2. Februar 2025.

Für Unternehmen besonders praxisrelevant ist beispielsweise das Verbot von KI-Systemen zur Ableitung von Emotionen natürlicher Personen am Arbeitsplatz, sofern der Einsatz nicht aus medizinischen oder Sicherheitsgründen erfolgt. Art. 5 verbietet darüber hinaus unter bestimmten Voraussetzungen unter anderem manipulative KI, die Ausnutzung besonderer Schutzbedürftigkeit, bestimmte Formen des Social Scoring, das ungezielte Erstellen von Gesichtserkennungsdatenbanken sowie bestimmte biometrische Kategorisierungen.

Mit der Digital-Omnibus-Verordnung wurden 2026 weitere Verbote für bestimmte KI-Systeme ergänzt, die nicht einvernehmlich intime bzw. bestimmte sexualisierte Inhalte erzeugen oder manipulieren. Diese neuen Tatbestände gelten ab dem 2. Dezember 2026.

Für die Revision folgt daraus ein klarer Prüfungsansatz: Art. 5 sollte vor jeder weiteren Risikoklassifizierung als Ausschlussprüfung betrachtet werden.

Besondere Aufmerksamkeit verdienen dabei Bereiche wie HR, Videoanalyse, biometrische Anwendungen, Customer Analytics und Systeme mit verhaltensbeeinflussenden Funktionen.

Unabhängig von der Risikoklasse gilt seit dem 2. Februar 2025 zudem die Pflicht zur KI-Kompetenz (Art. 4): Beschäftigte, die KI-Systeme einsetzen oder verantworten, müssen über ausreichende Kenntnisse zu Funktionsweise, Grenzen und Risiken verfügen. Für die Interne Revision ist dies bereits heute ein prüfbarer Punkt.

Transparenzpflichten nach Art. 50: seit August 2026 unmittelbar prüfungsrelevant

Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50. Damit handelt es sich nicht mehr nur um ein Vorbereitungsthema für spätere Prüfungsperioden.

Die Vorschriften unterscheiden zwischen Pflichten von Anbietern und Betreibern. Anbieter von KI-Systemen für die direkte Interaktion mit Menschen müssen beispielsweise sicherstellen, dass die betreffenden Personen erkennen können, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Anbieter bestimmter generativer Systeme müssen darüber hinaus technische Kennzeichnungen für künstlich erzeugte oder manipulierte Inhalte vorsehen.

Für Betreiber sind insbesondere drei Anwendungsfälle relevant: Personen müssen über den Einsatz von Emotionserkennung oder biometrischer Kategorisierung informiert werden; Deepfakes müssen entsprechend offengelegt werden; und KI-generierte oder manipulierte Texte zu Angelegenheiten von öffentlichem Interesse müssen unter den Voraussetzungen des Art. 50 gekennzeichnet werden. Für Texte besteht unter anderem eine Ausnahme, wenn eine hinreichende menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und redaktionelle Verantwortung übernommen wird.

Damit wird Transparenz zu einem konkret testbaren Revisionsgegenstand.

Prüfungsschwerpunkte für die Interne Revision:

• Werden Nutzer bei Chatbots oder vergleichbaren Systemen ordnungsgemäß über die KI-Interaktion informiert?
• Werden generierte oder manipulierte Inhalte entsprechend den geltenden Anforderungen gekennzeichnet?
• Ist nachvollziehbar geregelt, wann Human Review bzw. redaktionelle Kontrolle eine Kennzeichnung entbehrlich macht?
• Gibt es Verantwortliche für Freigabe und Veröffentlichung KI-generierter Inhalte?
• Werden Transparenzanforderungen bereits im Entwicklungs-, Beschaffungs- und Freigabeprozess berücksichtigt?
• Existieren Nachweise darüber, dass die verwendeten Kennzeichnungen technisch und organisatorisch funktionieren?

Für vor dem 2. August 2026 in Verkehr gebrachte generative KI-Systeme besteht hinsichtlich der technischen Kennzeichnung nach Art. 50 Abs. 2 eine Übergangsregelung bis zum 2. Dezember 2026.

Hochrisiko-KI: Was künftig besonders intensiv geprüft werden muss

Die umfangreichsten Anforderungen des AI Act betreffen Hochrisiko-KI. Bei eigenständigen Hochrisiko-Anwendungsfällen nach Art. 6 Abs. 2 und Anhang III gelten die betreffenden Abschnitte nun ab 2. Dezember 2027. Für Hochrisiko-KI im Zusammenhang mit regulierten Produkten nach Art. 6 Abs. 1 und Anhang I gilt der 2. August 2028.

Für Banken und Versicherungen besonders relevant: KI-gestützte Kreditwürdigkeitsprüfung und Bonitäts-Scoring zählen nach Anhang III zu den Hochrisiko-Anwendungen. Die zugehörigen Anforderungen an Risikomanagement, Daten-Governance, Dokumentation und menschliche Aufsicht greifen ab dem 2. Dezember 2027 – der Vorlauf für Bestandsaufnahme und Kontrolldesign sollte deshalb bereits jetzt in die Revisionsplanung einfließen.

Für die Prüfungspraxis bedeutet die Verschiebung allerdings nicht, dass die Revision das Thema bis 2027 zurückstellen sollte. Gerade bei langfristig betriebenen Systemen müssen Governance, Verträge, technische Dokumentation, Datenprozesse und Kontrollmechanismen rechtzeitig aufgebaut werden.

Die Anforderungen an Hochrisiko-KI umfassen unter anderem Risikomanagement, Daten und Data Governance, technische Dokumentation, Aufzeichnung und Logging, Transparenz und Informationen für Betreiber, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Durch die Digital-Omnibus-Verordnung wurden einzelne Vorschriften 2026 angepasst, die Grundstruktur dieser Anforderungen bleibt jedoch bestehen. Inhaltliche Überschneidungen bestehen dabei zur DORA-Compliance, die IKT-Risiken und operationale Resilienz regelt.

Dabei muss die Revision sauber zwischen Anbieter- und Betreiberpflichten unterscheiden. Ein Unternehmen, das ein extern entwickeltes System lediglich bestimmungsgemäß einsetzt, ist typischerweise Betreiber. Anbieter tragen weitergehende Verpflichtungen für das System selbst. Betreiber von Hochrisiko-KI müssen insbesondere angemessene technische und organisatorische Maßnahmen treffen, die Betriebsanleitung beachten und die menschliche Aufsicht qualifizierten Personen übertragen.

Für die Interne Revision sind deshalb insbesondere folgende Fragen relevant:

• Ist das KI-System für den tatsächlichen Verwendungszweck zugelassen und geeignet?
• Entspricht der reale Einsatz der dokumentierten Zweckbestimmung?
• Sind Risiken und Grenzen des Systems bekannt?
• Können Anwender den Output angemessen interpretieren?
• Gibt es definierte Eskalations- und Override-Prozesse?
• Werden Änderungen an Daten, Modell oder Use Case kontrolliert?
• Werden Performance, Fehler und unerwünschte Ergebnisse laufend überwacht?
• Kann der Audit Trail von Input über Verarbeitung und Output bis zur menschlichen Entscheidung nachvollzogen werden?

Das IIA verlangt ebenfalls nicht nur eine Betrachtung der Produktivsetzung. Sein Practitioner’s Guide empfiehlt einen Testansatz vor und nach Einführung und fordert ausdrücklich die Überprüfung, ob die KI ihre Ziele erreicht und ob Verzerrungen auftreten.

Human Oversight, Daten und Logging: zentrale Prüfungsnachweise

Eine formale Aussage, der „Mensch entscheide am Ende", reicht bei kritischen KI-Prozessen nicht aus.

Art. 26 verlangt für Betreiber von Hochrisiko-Systemen, dass die menschliche Aufsicht Personen übertragen wird, die über die notwendige Kompetenz, Ausbildung, Befugnis und Unterstützung verfügen. Soweit der Betreiber die Eingabedaten kontrolliert, müssen diese außerdem im Hinblick auf den vorgesehenen Zweck relevant und ausreichend repräsentativ sein.

Für die Revision bietet sich deshalb ein tatsächlicher Walkthrough mit den Anwendern an: Wie erkennen sie einen zweifelhaften Output? Welche Zusatzinformationen stehen zur Verfügung? Können sie eine Empfehlung übersteuern? Sind dafür Begründungen erforderlich? Was geschieht mit dem Fall anschließend?

Auch Logging ist ein konkretes Prüffeld. Betreiber von Hochrisiko-KI müssen automatisch erzeugte Protokolle, soweit diese unter ihrer Kontrolle stehen, grundsätzlich für einen dem Zweck angemessenen Zeitraum von mindestens sechs Monaten aufbewahren, soweit andere Rechtsvorschriften nichts Abweichendes bestimmen. Bei einem Hochrisiko-System am Arbeitsplatz müssen Arbeitgeber zudem vor dessen Nutzung die Arbeitnehmervertretungen und betroffenen Arbeitnehmer entsprechend informieren.

Das IIA betrachtet Nachvollziehbarkeit ebenfalls als Kernelement. Die Organisation soll KI transparent, erklärbar, verantwortlich und auditierbar gestalten; effektive Audit Logs bzw. vergleichbare Informationen sind dabei Grundlage für spätere Assurance.

Datenqualität, Bias und Cybersecurity: technische Prüfung gezielt vertiefen

KI-Prüfungen lassen sich nicht auf Governance-Dokumente beschränken. Abhängig von Risiko und Wesentlichkeit muss die Revision auch technische Kontrollen berücksichtigen.

Das IIA nennt für KI-bezogene Daten insbesondere Integrität, Datenschutz, Vertraulichkeit, Validität, Genauigkeit und Vollständigkeit als relevante Eigenschaften. Darüber hinaus weist es darauf hin, dass menschliche Fehler oder Verzerrungen bereits bei der Entwicklung von Algorithmen Einfluss auf die Ergebnisse nehmen können.

Für Cybersecurity nennt das Framework beispielsweise Verschlüsselung, Intrusion Detection bzw. Prevention, Security Logging von Prompts und Antworten sowie Penetrationstests. Auch Zugriffsrechte auf Daten und Administratorberechtigungen sind aus Sicht des IIA kritisch, da Veränderungen der Eingabedaten unmittelbar die KI-Ausgaben beeinflussen können.

Prüfungshandlungen können daher – risikoorientiert – beispielsweise umfassen:

• Stichproben zur Datenqualität und Datenherkunft.
• Überprüfung von Rollen und Berechtigungen.
• Nachvollzug von Validierungs- und Bias-Tests.
• Vergleich von Testergebnissen vor und nach Produktivsetzung.
• Überprüfung definierter Leistungs- und Fehlerschwellen.
• Kontrolle von Change- und Release-Prozessen.
• Prüfung von Prompt-/Response-Logging bei generativer KI.
• Nachvollzug von Security- und Penetrationstests.
• Prüfung von Incident- und Eskalationsprozessen.

Dabei muss nicht jede Interne Revision selbst Data-Science- oder Penetrationstesting-Kompetenz vorhalten. Das IIA weist ausdrücklich darauf hin, dass bei besonders technischen Aspekten externe oder spezialisierte Ressourcen erforderlich sein können. Für die technische Tiefenprüfung bietet sich zudem die enge Verzahnung mit der IT-Revision an.

Was der EU AI Act für die Interne Revision selbst bedeutet

Der AI Act verändert nicht nur die zu prüfenden Geschäftsprozesse. Er wirkt sich auch auf die Prüfungsplanung und Kompetenz der Revisionsfunktion aus.

Das IIA ordnet die Interne Revision als Third Line ein. Management gestaltet das Kontrollumfeld in der First Line, Überwachungsfunktionen der Second Line unterstützen das Risikomanagement, während die Interne Revision unabhängige und objektive Assurance über die Wirksamkeit der Kontrollen bereitstellt. Gleichzeitig kann sie beratend tätig werden, sofern ihre spätere Unabhängigkeit nicht beeinträchtigt wird.

Für die Revisionsleitung folgt daraus insbesondere:

• KI muss Bestandteil des Revisionsuniversums und der Risikobeurteilung werden.
• Wesentliche KI-Systeme sollten nach Risiko und regulatorischer Einordnung priorisiert werden.
• Prüfungsprogramme müssen neben klassischen ITGC auch KI-spezifische Kontrollen enthalten.
• Die Revision muss ausreichend KI-Kompetenz aufbauen bzw. Spezialwissen hinzuziehen.
• Beratende Tätigkeiten beim Aufbau der Governance dürfen spätere unabhängige Assurance nicht gefährden.
• Neue oder wesentlich veränderte KI-Anwendungen sollten in der rollierenden Prüfungsplanung berücksichtigt werden.

Auch Art. 4 des AI Act ist hierbei zu beachten. Seit der Änderung 2026 müssen Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihrer mit Betrieb und Nutzung befassten Mitarbeiter zu unterstützen. Die aktuelle Fassung verlangt allerdings nicht, für jede einzelne Person ein bestimmtes Kompetenzniveau zu garantieren.

Aus Revisionssicht ist daher nicht allein zu fragen, ob „eine KI-Schulung" stattgefunden hat. Zu beurteilen ist vielmehr, ob Kompetenzmaßnahmen risikoorientiert zu Rollen und tatsächlicher Nutzung passen.

Drittanbieter und KI: Fremdbezug bleibt ein Revisionsrisiko

Ein großer Teil betrieblicher KI wird nicht selbst entwickelt, sondern über Softwareanbieter, Cloud-Plattformen oder integrierte KI-Funktionen bezogen. Das verlagert technische Aufgaben, beseitigt aber nicht die Risiken des eigenen Einsatzes.

Das IIA empfiehlt bei extern verarbeiteten KI-Daten ausdrücklich, das Kontrollumfeld des Dienstleisters zu betrachten. Genannt werden unter anderem SOC-Berichte sowie Right-to-Audit-Klauseln in Service-Level-Agreements.

Für die Revision sind insbesondere folgende Punkte relevant:

• Welche KI-Funktionen werden tatsächlich vom Dienstleister bereitgestellt?
• Welche Daten verlassen das Unternehmen?
• Darf der Anbieter Eingaben oder Unternehmensdaten zum Training verwenden?
• Welche Modell- und Funktionsänderungen kann der Anbieter vornehmen?
• Wie wird über wesentliche Änderungen und Sicherheitsvorfälle informiert?
• Stehen ausreichende Logs, Dokumentationen und Testergebnisse zur Verfügung?
• Sind Subdienstleister transparent?
• Bestehen Audit-, Informations- und Exit-Rechte?

Besondere Vorsicht ist geboten, wenn das Unternehmen ein System verändert. Nach Art. 25 kann ein Betreiber unter bestimmten Voraussetzungen selbst zum Anbieter eines Hochrisiko-KI-Systems werden, etwa bei einer wesentlichen Veränderung oder wenn die Zweckbestimmung eines bislang nicht hochriskanten Systems so verändert wird, dass daraus ein Hochrisiko-System wird. Die 2026 geänderte Vorschrift konkretisiert für solche Fälle auch die Zusammenarbeit und Informationsbereitstellung durch den ursprünglichen Anbieter.

Für die Interne Revision gehört deshalb nicht nur der Vertrag, sondern auch das Change Management des konkreten Use Cases in den Prüfungsumfang.

Übergangsfristen des EU AI Act: Was die Interne Revision wann prüft

Der AI Act gilt gestaffelt. Durch die Digital-Omnibus-Verordnung wurde der Zeitplan 2026 nochmals verändert.

• Seit 2. Februar 2025: Kapitel I und II und damit insbesondere die ursprünglichen Verbote des Art. 5 sowie die Vorgaben zur KI-Kompetenz; Art. 4 wurde 2026 neu gefasst.
• Seit 2. August 2025: unter anderem Governance-Regeln auf EU-Ebene sowie wesentliche Verpflichtungen für Anbieter von General-Purpose-AI-Modellen.
• Seit 2. August 2026: insbesondere die Transparenzpflichten des Art. 50.
• Ab 2. Dezember 2026: die 2026 neu eingefügten Verbote des Art. 5 Abs. 1 Buchstaben ba und bb sowie die zugehörigen Bestimmungen. Außerdem endet für bestimmte bereits vor dem 2. August 2026 in Verkehr gebrachte generative Systeme die Übergangsfrist für Art. 50 Abs. 2.
• Ab 2. Dezember 2027: Kapitel III Abschnitte 1 bis 3 für Hochrisiko-KI nach Art. 6 Abs. 2 und Anhang III.
• Ab 2. August 2028: entsprechende Hochrisiko-Regeln für KI nach Art. 6 Abs. 1 und Anhang I.

Damit ergibt sich für die Interne Revision ein zweistufiger Prüfungsansatz: Heute sollten bereits geltende Pflichten und die Grundlagen der AI Governance geprüft werden. Parallel sollte die Bereitschaft für Hochrisiko-Anwendungen bewertet werden, damit fehlende Daten-, Vertrags-, Dokumentations- und Kontrollstrukturen nicht erst unmittelbar vor 2027 bzw. 2028 erkannt werden.

Bei bereits vor Anwendung der Hochrisiko-Regeln in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-Systemen enthält Art. 111 zudem besondere Übergangsregeln. Nach der 2026 geänderten Fassung greifen die betreffenden Hochrisiko-Regeln für solche Systeme grundsätzlich nur bei späteren erheblichen Änderungen ihrer Konzeption; für Hochrisiko-KI, die bestimmungsgemäß von Behörden verwendet werden soll, besteht eine Sonderfrist bis 2. August 2030.