Künstliche Intelligenz in Italien: Compliance-Roadmap nach dem Digitalen Omnibus

Künstliche Intelligenz (KI) ist eine sich rasant entwickelnde Technologie, die Eingaben verarbeiten und daraus Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann. In der Praxis ermöglichen KI-Systeme die Analyse von Daten und ihrer Umgebung, die Erkennung von Mustern, die Lösung komplexer Probleme sowie das Erreichen definierter Ziele mithilfe von Modellen und Algorithmen.

Das wirtschaftliche Potenzial von KI ist erheblich. Sie kann Prognosen verbessern, Prozesse und Ressourceneinsatz optimieren, Produkte und Dienstleistungen personalisieren und Wettbewerbsvorteile schaffen. Einsatzmöglichkeiten bestehen unter anderem in den Bereichen Gesundheitswesen, Industrie, Landwirtschaft, Energie, Transport und Logistik, Finanzdienstleistungen, Bildung, Medien, Infrastrukturmanagement, öffentliche Verwaltung und Umweltüberwachung.

Gleichzeitig gehen mit diesen Möglichkeiten erhebliche materielle und immaterielle Risiken für Einzelpersonen, Unternehmen und die Gesellschaft einher. Je nach Anwendungsbereich kann KI Auswirkungen auf Gesundheit und Sicherheit, Datenschutz und Privatsphäre, Gleichbehandlung, Beschäftigung, geistiges Eigentum, Produktsicherheit, Cybersicherheit, demokratische Prozesse sowie den Zugang zu wesentlichen Dienstleistungen haben. Die regulatorische Herausforderung besteht daher nicht darin, den Einsatz von KI zu verhindern, sondern sicherzustellen, dass Innovation durch angemessene Governance-Strukturen, klare Verantwortlichkeiten und wirksame Schutzmechanismen begleitet wird.

Auf europäischer Ebene wird künstliche Intelligenz (KI) in erster Linie durch die Verordnung (EU) 2024/1689 (EU AI Act bzw. KI-Verordnung) geregelt, die am 1. August 2024 in Kraft getreten ist. Die KI-Verordnung schafft einen horizontalen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen sowie General-Purpose AI Models (GPAI-Modelle) in der Europäischen Union. Ziel der Verordnung ist es, Innovation und die Nutzung vertrauenswürdiger, menschenzentrierter KI zu fördern und gleichzeitig ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte zu gewährleisten.

Der Rechtsrahmen wurde inzwischen weiterentwickelt. Die Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital Omnibus on AI), die seit dem 27. Juli 2026 in Kraft ist, hat die KI-Verordnung geändert, um die Umsetzung zu vereinfachen, bestimmte Verpflichtungen klarzustellen und die Anwendbarkeit einzelner Anforderungen für Hochrisiko-KI-Systeme zeitlich anzupassen. Dadurch wird die Bedeutung einer wirksamen KI-Governance nicht verringert. Vielmehr ergibt sich eine stärker differenzierte Compliance-Roadmap.

Der Digitale Omnibus hat zudem Artikel 4 zur KI-Kompetenz (AI Literacy) überarbeitet. Anbieter und Betreiber von KI-Systemen müssen nun angemessene Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden und anderer Personen zu fördern, die in ihrem Auftrag mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Dabei sind insbesondere deren technisches Wissen, Erfahrung, Ausbildung und Schulung, der jeweilige Nutzungskontext sowie die potenziell betroffenen Personen oder Personengruppen zu berücksichtigen. Die Neuregelung ist verhältnismäßiger ausgestaltet als die ursprüngliche Verpflichtung zur Sicherstellung eines ausreichenden Niveaus an KI-Kompetenz, verlangt aber weiterhin nachweisbare und kontextspezifische Maßnahmen.

Darüber hinaus wurden durch den Digitalen Omnibus neue verbotene Praktiken in Artikel 5 eingeführt. Diese betreffen unter den Voraussetzungen der Verordnung insbesondere KI-Systeme, die nicht einvernehmlich erstellte intime oder sexuell explizite Inhalte in Bezug auf identifizierbare Personen sowie Darstellungen des sexuellen Missbrauchs von Kindern erzeugen oder manipulieren. Die entsprechenden Verbote gelten ab dem 2. Dezember 2026. Zudem wurde für bestimmte Anbieter von Systemen, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026 eingeführt, um die Anforderungen an die maschinenlesbare Kennzeichnung synthetischer Inhalte gemäß Artikel 50 Absatz 2 zu erfüllen.

Eines der zentralen Merkmale der KI-Verordnung ist ihr risikobasierter Ansatz. Dieser sollte jedoch nicht als einfache fünfstufige Skala verstanden werden. Die Verordnung unterscheidet vielmehr zwischen verbotenen KI-Praktiken, Hochrisiko-KI-Systemen, Systemen mit spezifischen Transparenzpflichten sowie sonstigen KI-Systemen, für die geringere regulatorische Anforderungen gelten. General-Purpose AI Models (GPAI-Modelle) unterliegen einem eigenständigen Regelungsregime. Bestimmte GPAI-Modelle können gemäß Artikel 51 zudem als Modelle mit systemischem Risiko eingestuft werden.

Für Unternehmen ist diese Differenzierung von zentraler Bedeutung. Die erste Compliance-Frage lautet nicht lediglich, ob eine Organisation KI einsetzt, sondern welche Rolle sie nach der KI-Verordnung einnimmt und um welche Art von System oder Modell es sich handelt. Je nach Anwendungsfall kann ein Unternehmen als Anbieter, Betreiber, Importeur, Händler, Produkthersteller oder Bevollmächtigter auftreten. Mit jeder dieser Rollen gehen unterschiedliche rechtliche Verpflichtungen einher.

Auch die Einstufung als Hochrisiko-KI-System erfordert eine sorgfältige rechtliche Analyse. Die in Anhang III aufgeführten Systeme können aufgrund ihres jeweiligen Einsatzkontextes als Hochrisiko-KI-Systeme gelten, etwa in den Bereichen Personalgewinnung und Beschäftigungsmanagement, Zugang zu wesentlichen Dienstleistungen, Biometrie oder anderen besonders regulierten Anwendungsfeldern. Andere Systeme können gemäß Artikel 6 Absatz 1 als Hochrisiko-KI-Systeme eingestuft werden, wenn sie Sicherheitskomponenten eines Produkts oder selbst ein Produkt darstellen, das unter die in Anhang I aufgeführte Harmonisierungsrechtsvorschriften der Union fällt und einer Konformitätsbewertung durch Dritte unterliegt. Der Digitale Omnibus hat einzelne Aspekte des Begriffs der Sicherheitskomponente präzisiert und die Anwendbarkeit der entsprechenden Hochrisiko-Anforderungen zeitlich verschoben.

Die gleiche Sorgfalt ist bei Folgenabschätzungen erforderlich. Eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA) nach Artikel 27 ist keine allgemeine Verpflichtung für jedes Unternehmen oder jedes KI-System. Sie gilt ausschließlich für die dort genannten Betreiber und Anwendungsfälle. Soweit einschlägige Anforderungen bereits im Rahmen einer Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO oder Artikel 27 der Richtlinie (EU) 2016/680 berücksichtigt werden, kann die FRIA nach den Änderungen durch den Digitalen Omnibus auf diese Inhalte Bezug nehmen oder sie übernehmen. Dadurch wird die Verzahnung von KI-Governance und bestehenden Datenschutz-Compliance-Prozessen erleichtert, ohne dass eine eigenständige rechtliche Bewertung entbehrlich wird.

Verstöße gegen die Vorgaben der KI-Verordnung können erhebliche Sanktionen nach sich ziehen. Nach Artikel 99 können Verstöße gegen die in Artikel 5 genannten verbotenen Praktiken mit Geldbußen von bis zu 35 Millionen Euro oder, bei Unternehmen, von bis zu 7 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden. Dabei sind die Vorgaben der Verordnung zur Verhältnismäßigkeit sowie die besonderen Regelungen für kleinere Unternehmen zu berücksichtigen. Für andere Verstöße gelten niedrigere, jedoch weiterhin erhebliche Sanktionsrahmen.

Der Digitale Omnibus hat zudem das Spektrum der den Mitgliedstaaten zur Verfügung stehenden Durchsetzungsmaßnahmen erweitert. Neben Bußgeldern und sonstigen Sanktionen können nun ausdrücklich auch Verwarnungen und andere nicht monetäre Maßnahmen vorgesehen werden.

Für die Bewertung von KI-Compliance sollte daher nicht allein auf die höchstmöglichen Bußgelder abgestellt werden. Das tatsächliche Risikoprofil hängt vielmehr von den jeweils einschlägigen Verpflichtungen, der Rolle des betroffenen Akteurs, der Größe und wirtschaftlichen Leistungsfähigkeit der Organisation, der Schwere und Dauer eines Verstoßes, den Auswirkungen auf betroffene Personen sowie der Wirksamkeit der bestehenden Governance- und Abhilfemaßnahmen ab.

Mit dem Gesetz Nr. 132 vom 23. September 2025, das am 10. Oktober 2025 in Kraft getreten ist, hat Italien den europäischen Rechtsrahmen um nationale Regelungen ergänzt. Das Gesetz enthält grundlegende Vorgaben für die Entwicklung und den Einsatz von KI sowie sektorspezifische Bestimmungen und Ermächtigungen der Regierung zur Anpassung des italienischen Rechts an die KI-Verordnung.

Am 4. August 2026 verabschiedete der italienische Ministerrat in letzter Lesung zwei Durchführungsdekrete zur Umsetzung dieser Ermächtigungen. Zum Zeitpunkt der Veröffentlichung dieses Beitrags standen die Dekrete jedoch noch aus und waren noch nicht im italienischen Amtsblatt veröffentlicht worden. Ihr endgültiger Inhalt sollte daher erst nach der amtlichen Veröffentlichung abschließend bewertet werden.

Nach Angaben der italienischen Regierung regelt das erste Dekret den Einsatz von KI-Systemen im Bereich der Polizeiarbeit und enthält neue Bestimmungen zur straf- und zivilrechtlichen Haftung. Vorgesehen ist unter anderem die Einführung eines neuen Artikels 437-bis in das italienische Strafgesetzbuch. Dieser soll Verstöße gegen Sicherheitsanforderungen für Hochrisiko-KI-Systeme sowie unzulässige Veränderungen solcher Systeme erfassen. Die vorgesehenen Sanktionen sollen sich nach dem jeweils gefährdeten Rechtsgut richten. Darüber hinaus soll das Dekret die zivilrechtlichen Rechtsschutzmöglichkeiten für Personen stärken, die durch KI-Systeme geschädigt wurden.

Das zweite Dekret konkretisiert die italienische Governance- und Durchsetzungsstruktur. Vorgesehen ist eine zentrale Rolle der Agenzia per l’Italia Digitale (AgID) als notifizierende Behörde sowie der Agenzia per la Cybersicurezza Nazionale (ACN) als Marktüberwachungsbehörde, ergänzt durch die Zuständigkeiten der jeweiligen Fachaufsichtsbehörden. Darüber hinaus soll ein differenzierter und verhältnismäßiger nationaler Sanktionsrahmen eingeführt werden, dessen Höchstgrenzen unterhalb der europäischen Bußgeldobergrenzen liegen. Für weniger schwerwiegende Verstöße sollen zudem nichtfinanzielle Aufsichtsmaßnahmen vorgesehen werden. Nach Angaben der Regierung wurde der nationale Rahmen an die Änderungen durch den Digitalen Omnibus angepasst, sodass nationale Sanktionen zeitlich mit der Anwendbarkeit der jeweiligen Verpflichtungen und Verbote der KI-Verordnung in Einklang stehen.

Für Unternehmen mit Tätigkeiten in Italien entsteht dadurch ein zunehmend komplexes regulatorisches Umfeld. KI-bezogene Sachverhalte können nicht nur Anforderungen der KI-Verordnung auslösen, sondern je nach Einzelfall auch datenschutzrechtliche, cybersicherheitsrechtliche, verbraucherschutzrechtliche, produktsicherheitsrechtliche, arbeitsrechtliche, immaterialgüterrechtliche, zivilrechtliche und strafrechtliche Konsequenzen nach sich ziehen. Nach Veröffentlichung der Durchführungsdekrete wird das Zusammenspiel zwischen der europäischen Durchsetzungspraxis, nationalen Sanktionen und möglichen Formen der Unternehmenshaftung erneut zu bewerten sein.

Die Verschiebung bestimmter Verpflichtungen für Hochrisiko-KI-Systeme sollte nicht als Anlass verstanden werden, den Aufbau einer wirksamen KI-Governance aufzuschieben. Im Gegenteil: Organisationen verfügen nun über ein klar definiertes Zeitfenster, um ein strukturiertes und auditierbares Compliance-Rahmenwerk einzuführen, bevor die anspruchsvollsten Anforderungen für Hochrisiko-KI-Systeme anwendbar werden.

Der erste Schritt besteht in einer Bestandsaufnahme der eingesetzten KI-Systeme sowie einer Zuordnung der jeweiligen Rollen. Unternehmen sollten sämtliche KI-Systeme und GPAI-Modelle erfassen, die entwickelt, beschafft, in Produkte integriert, in Geschäftsprozesse eingebunden oder von Mitarbeitenden genutzt werden. Anschließend ist die jeweilige Rolle nach der KI-Verordnung, beispielsweise als Anbieter, Betreiber, Importeur, Händler oder Bevollmächtigter, zu bestimmen. Besondere Aufmerksamkeit sollte dabei dezentralen oder in Fachbereichen eingesetzten generativen KI-Anwendungen gelten, die häufig nicht in klassischen IT-Verzeichnissen erfasst sind.

Im zweiten Schritt sollte eine rechtliche und risikobezogene Einordnung erfolgen. Hierzu gehören insbesondere die Prüfung möglicher verbotener Praktiken nach Artikel 5, die Einstufung potenzieller Hochrisiko-KI-Systeme nach Artikel 6 und Anhang III, die Bewertung von Transparenzpflichten nach Artikel 50, die Analyse GPAI-bezogener Anforderungen sowie die Berücksichtigung einschlägiger sektorspezifischer Vorgaben. Die Prüfung sollte zudem mit bestehenden Compliance-Prozessen in Bereichen wie Datenschutz, Cybersicherheit, geistiges Eigentum, Arbeitsrecht und Produktsicherheit verzahnt werden.

Der dritte Schritt umfasst die Durchführung erforderlicher Folgenabschätzungen und die Umsetzung geeigneter Risikominderungsmaßnahmen. Je nach Anwendungsfall können hierzu Datenschutz-Folgenabschätzungen (DPIA), Grundrechte-Folgenabschätzungen (FRIA), Sicherheits- und Robustheitsprüfungen, Maßnahmen zur menschlichen Aufsicht, Data-Governance-Konzepte, vertragliche Absicherungen, Lieferantenprüfungen, Dokumentations- und Protokollierungspflichten, Transparenzhinweise sowie Verfahren zum Vorfallmanagement und zur internen Eskalation gehören.

Schließlich muss KI-Governance als kontinuierlicher Prozess verstanden werden. KI-Systeme entwickeln sich fortlaufend weiter, etwa durch Modellupdates, Konfigurationsänderungen, neue Datensätze, zusätzliche Integrationen oder neue Anwendungsfälle. Eine nachhaltige Compliance setzt daher regelmäßige Überprüfungen, klar definierte Verantwortlichkeiten, festgelegte Eskalationswege sowie eine nachvollziehbare Dokumentation voraus. Während einige Organisationen diese Aufgaben in einem zentralen AI Governance Committee oder bei einem AI Officer bündeln, verteilen andere die Zuständigkeiten auf die Bereiche Recht, Compliance, Datenschutz, Cybersicherheit, Risikomanagement, Personal, Einkauf und IT. Welches Modell geeignet ist, hängt von der jeweiligen Organisation ab. Entscheidend ist jedoch, dass Verantwortlichkeiten klar festgelegt und jederzeit nachvollziehbar sind.