KI-Governance

Unterstützung bei KI-Compliance

Der EU-AI-Act verpflichtet Betreiber und Anbieter von KI-Systemen zu einer Vielzahl organisatorischer und technischer Maßnahmen – und das bereits heute, da die Anforderungen insbesondere für Hochrisiko-KI-Systeme schrittweise ab August 2026 wirksam werden. In der Gesundheits- und Sozialwirtschaft sind besonders viele KI-Anwendungen als Hochrisiko eingestuft: Systeme zur Diagnoseunterstützung, Pflegeplanung, Leistungsbewertung oder Ressourcensteuerung unterliegen strengen Vorgaben zu Transparenz, Risikomanagement, menschlicher Aufsicht und Datensicherheit. Wir unterstützen Einrichtungen dabei, KI-Compliance strukturiert aufzubauen und dauerhaft sicherzustellen.

Unsere Schwerpunkte

• Prüfung und Klassifizierung eingesetzter oder geplanter KI-Systeme nach den Risikoklassen des EU-AI-Acts
• Analyse des Compliance-Status anhand der geltenden Anforderungen (GAP-Analyse)
• Aufbau eines KI-Risikomanagementsystems gemäß Art. 9 EU-AI-Act
• Erstellung und Pflege der erforderlichen technischen Dokumentation und Konformitätserklärungen
• Einrichtung von Prozessen zur menschlichen Aufsicht und Kontrolle über KI-Entscheidungen
• Umsetzung von Transparenz- und Informationspflichten gegenüber Patienten, Bewohnern und Leistungsempfängern
• Implementierung von Protokollierungs- und Überwachungspflichten für Hochrisiko-KI-Systeme
• Abstimmung mit DSGVO-Anforderungen, insbesondere bei automatisierten Entscheidungen nach Art. 22 DSGVO
• Vorbereitung auf behördliche Prüfungen und Marktüberwachungsmaßnahmen
• Laufende Begleitung bei gesetzlichen Änderungen und neuen Leitlinien der zuständigen Behörden

Ihr Nutzen

Mit einer strukturierten KI-Compliance vermeiden Sie nicht nur Bußgelder und Haftungsrisiken, sondern schaffen auch interne Klarheit darüber, welche KI-Systeme Sie unter welchen Bedingungen rechtssicher einsetzen dürfen. Das stärkt das Vertrauen Ihrer Patienten, Bewohner und Kostenträger und gibt Ihrer Geschäftsführung die Sicherheit, dass der KI-Einsatz in Ihrer Einrichtung verantwortungsvoll und nachweisbar rechtskonform erfolgt.

RÖDL verbindet dabei juristische Expertise im Gesundheits- und Sozialrecht mit IT-Audit-Kompetenz und tiefem Branchenverständnis – für KI-Compliance, die nicht auf dem Papier endet, sondern im Alltag Ihrer Einrichtung wirkt und tatsächlich funktioniert.

Durchführung von KI-Schulungen mit Branchenbezug, rechtlichen Grundlagen und Praxisbeispielen

Mit dem EU-AI-Act (Verordnung (EU) 2024/1689) hat die Europäische Union den weltweit ersten umfassenden Rechtsrahmen für den Einsatz von KI-Systemen geschaffen. Für die Gesundheits- und Sozialwirtschaft ist dieser Rechtsrahmen von besonderer Relevanz: Zahlreiche KI-Anwendungen – von klinischen Entscheidungsunterstützungssystemen über Pflegeplanungstools bis hin zu Diagnosesoftware – fallen in die Kategorie der Hochrisiko-KI-Systeme.

Betreiber und Anbieter solcher Systeme tragen umfangreiche Pflichten: Transparenz gegenüber Betroffenen, menschliche Aufsicht, Robustheit und Genauigkeit der Systeme sowie ein dokumentiertes Risikomanagement. Ebenso verpflichtend geworden ist die Schulung von Mitarbeitern, die KI-Systeme während ihrer Arbeit nutzen.

Keine zwei Einrichtungen sind gleich. Deshalb bieten wir Schulungsformate, die sich flexibel an Ihre Gegebenheiten anpassen – ob kleines Pflegeheim oder Universitätsklinikum, ob präventive Sensibilisierung oder vertiefendes Compliance-Training für Führungskräfte.

Unsere Schulungen sind konsequent auf die spezifischen Anforderungen der Gesundheits- und Sozialwirtschaft ausgerichtet. Generisches KI-Grundlagenwissen wird stets in den unmittelbaren Kontext Ihrer Einrichtung übersetzt – von der Notaufnahme bis zur sozialpädagogischen Betreuung.

Module

• Hochrisiko-KI-Systeme:
  Anforderungen an Transparenz, menschliche Kontrolle, Risikomanagement und Dokumentationspflichten für Einrichtungen der Gesundheits- und Sozialwirtschaft
• Datenschutz bei KI:
  Automatisierte Entscheidungen, Profiling, Zweckbindung und Einwilligungsmanagement beim Einsatz von KI-Systemen mit Gesundheitsdaten
• Sozialrechtliche Pflichten:
  Besondere Sorgfaltspflichten beim Einsatz von KI in der Pflege und der Leistungserbringung sowie Qualitätssicherung nach § 137 SGB V
• KI als Medizinprodukt:
  Wann wird KI-Software zum Medizinprodukt? Anforderungen der EU-MDR 2017/745 und IVDR 2017/746 für diagnostische KI-Anwendungen
• Digitale Gesundheitsanwendungen:
  Zulassungsvoraussetzungen und Sicherheitsanforderungen für KI-gestützte digitale Gesundheits- und Pflegeanwendungen
• Verantwortung & Haftung:
  Haftungsfragen beim Einsatz von KI – Wer trägt Verantwortung bei Fehlentscheidungen durch KI-Systeme im klinischen und sozialen Kontext?

Ihr Nutzen

KI-Schulungen von RÖDL sind kein abstraktes Pflichtprogramm – sie schaffen echten Mehrwert für Ihre Einrichtung. Ihre Mitarbeiterinnen und Mitarbeiter verstehen, welche KI-Systeme sie täglich nutzen, worauf sie achten müssen und wann sie eingreifen sollten. Das reduziert Haftungsrisiken für die Geschäftsführung, stärkt die Compliance-Kultur und fördert die Akzeptanz digitaler Innovationen im Team. Gleichzeitig erfüllen Sie die Anforderungen des EU-AI-Acts durch strukturierte und nachweisbare Schulungsmaßnahmen, die für Ihre Aufsichtsbehörden und Prüfer nachvollziehbar sind und diese überzeugen. Gut geschulte Mitarbeitende sind dabei nicht nur eine regulatorische Notwendigkeit, sondern Ihr entscheidender Erfolgsfaktor beim verantwortungsvollen Einsatz von KI.

Stellung externer KI-Beauftragter

Der Einsatz von künstlicher Intelligenz in der Gesundheits- und Sozialwirtschaft bringt große Chancen, aber auch erhebliche regulatorische, ethische und organisatorische Anforderungen mit sich. Mit dem EU-AI-Act sind Unternehmen verpflichtet KI-Systeme strukturiert, transparent und risikoorientiert zu steuern. Insbesondere bei Hochrisiko-KI-Systemen sind besondere Anforderungen zu beachten. Die Stellung eines externen KI-Beauftragten schafft dafür eine unabhängige und fachlich fundierte Steuerungs- und Kontrollfunktion.

Unsere Leistungen als externer KI-Beauftragter

• Bewertung & Einstufung von KI-Anwendungen: Identifikation von Hochrisiko-Anwendungen, Risikoeinschätzung und Nachvollziehbarkeit
• Unterstützung bei Dokumentations- und Nachweispflichten: Erstellung prüfungsfähiger Unterlagen
• Datensicherheit & Compliance: Sicherstellung der Einhaltung von Vorgaben zum Schutz sensibler Gesundheits- und Forschungsdaten
• Begleitung beim KI-Monitoring: Fortlaufende Überwachung, Bewertung und Dokumentation von KI-Systemen

Die Vorteile für Ihr Unternehmen

Mit uns als externen KI-Beauftragten an Ihrer Seite erhalten Sie fachübergreifende, interdisziplinäre und umfassende Unterstützung. Unsere Expertise vereint technisches Know-how, Rechtsberatung und Datenschutzkompetenz – ein entscheidender Vorteil insbesondere bei sensiblen und datengetriebenen Anwendungen.

Die Kompetenzen setzen wir gezielt für Sie ein

• Technische Expertise – Wir prüfen Funktionsfähigkeit, Nachvollziehbare und Risiken Ihrer KI-Systemen
• Compliance & Datenschutz – Wir sorgen für die Einhaltung des EU-AI-Act, DSGVO und branchenspezifischen Vorgaben
• Struktur & Transparenz – Wir schaffen klare Rollen, Verantwortlichkeiten und prüfungsfähige Dokumentation
• Zukunftsfähigkeit – Wir unterstützen Sie dabei, dass KI in Ihrem Unternehmen sicher, verantwortungsvoll und regelkonform genutzt wird

Prüfung von KI-Systemen nach IDW PS 861

Künstliche Intelligenz verändert den Gesundheits- und Forschungssektor spürbar. Krankenhäuser, MVZ, Labore und Hochschulen setzen KI ein, um Diagnosestellungen zu unterstützen, Daten auszuwerten und Prozesse zu beschleunigen. Gleichzeitig steigen die Anforderungen an Transparenz, Sicherheit und verantwortungsvolle Steuerung. Wir prüfen Ihr KI-System nach dem Standard IDW PS 861 und schaffen eine verlässliche Grundlage für Ihren weiteren Einsatz von KI.

Unsere Schwerpunkte

• Wir analysieren die Governance-Strukturen rund um Ihr KI-System
• Wir beurteilen Ihr internes Kontrollsystem, Ihre Dokumentation und Ihr Risikomanagement im Zusammenhang mit dem KI-System
• Wir prüfen, wie Sie Datenqualität, Nachvollziehbarkeit und Verantwortlichkeiten steuern
• Wir bewerten, ob Ihre Prozesse regulatorische und ethische Anforderungen erfüllen
• Wir zeigen klare Handlungsfelder auf und begleiten Sie strukturiert durch den Prüfungsprozess

Gemeinsam schaffen wir die Grundlage für eine kontrollierte, nachvollziehbare und regelkonforme KI-Nutzung in Ihrem Unternehmen.