EU AI Act — Was Ihr Unternehmen wissen muss
Der EU AI Act ist die weltweit erste umfassende KI-Regulierung. Wenn Ihr Unternehmen KI-Tools in Europa einsetzt, gelten diese Regeln für Sie. Hier ist ein praktischer Überblick über die Pflichten für Betreiber.
Wichtige Termine
Verbotene KI-Praktiken (Verbote von Social Scoring, manipulativer KI usw.) treten in Kraft. Bereits aktiv.
Governance-Regeln und KI-Kompetenzpflichten (Article 4) gelten. Unternehmen müssen sicherstellen, dass Mitarbeitende die eingesetzten KI-Tools verstehen. Bereits aktiv.
Vollständige Anwendung für Hochrisiko-KI-Systeme und alle Betreiberpflichten. Dies ist die wichtigste Frist.
Risikokategorien
Der EU AI Act stuft jedes KI-System in eine von vier Risikostufen ein. Die Stufe bestimmt, welche Pflichten gelten.
Unannehmbares Risiko
Diese KI-Systeme sind in der EU vollständig verboten. Keine Ausnahmen.
Social Scoring, biometrische Echtzeit-Identifikation in öffentlichen Räumen, manipulative KI, die auf vulnerable Gruppen abzielt.
Hohes Risiko
Erlaubt, aber mit erheblichen Pflichten: Konformitätsbewertungen, Pläne zur menschlichen Aufsicht, technische Dokumentation und laufende Überwachung.
KI in Personalwesen/Recruiting, Kreditbewertung, Bildungsbewertung, Strafverfolgung, kritische Infrastruktur, Einwanderungsentscheidungen.
Begrenztes Risiko
Nutzer müssen klar darüber informiert werden, dass sie mit KI interagieren. Keine weiteren spezifischen Pflichten.
Chatbots, Deepfake-Generatoren, Emotionserkennungssysteme, KI-generierte Inhalte.
Minimales Risiko
Keine spezifischen regulatorischen Anforderungen. Die meisten geschäftlichen KI-Tools fallen in diese Kategorie.
E-Mail-Entwürfe, Dokumentenzusammenfassung, Code-Assistenz, interne Analysen, KI-gestützte Suche.
Betreiberpflichten
Wenn Ihr Unternehmen KI-Systeme nutzt (betreibt) — auch wenn Sie sie nicht entwickelt haben — gelten diese Pflichten für Sie.
Menschliche Aufsicht
Stellen Sie sicher, dass Menschen KI-Entscheidungen überwachen, interpretieren und übersteuern können. Weisen Sie klare Verantwortlichkeiten für die Aufsicht jedes KI-Systems zu.
KI-Kompetenz
Schulen Sie Ihre Mitarbeitenden im kompetenten Umgang mit KI-Systemen. Sie müssen die Fähigkeiten, Einschränkungen und Risiken der eingesetzten KI-Tools verstehen.
Betriebliche Überwachung
Überwachen Sie KI-Systeme während des Betriebs. Achten Sie auf Anomalien, Verzerrungen, Leistungsabfall oder unerwartetes Verhalten. Führen Sie Protokolle.
Vorfallmeldung
Melden Sie schwerwiegende Vorfälle mit Hochrisiko-KI unverzüglich an die Behörden. Führen Sie ein Vorfallprotokoll mit Schweregrad, Ursache und Lösung.
Transparenz
Informieren Sie Personen, wenn sie mit KI interagieren oder wenn KI Entscheidungen trifft, die sie betreffen. Kommunizieren Sie klar, was die KI tut und was nicht.
Grundrechte-Folgenabschätzung (FRIA)
Gemäß Article 27 ist eine FRIA erforderlich, wenn Hochrisiko-KI in sensiblen Bereichen eingesetzt wird. Die Bewertung muss den Zweck, betroffene Gruppen, potenzielle Auswirkungen auf Grundrechte, Gegenmaßnahmen und Aufsichtsmaßnahmen dokumentieren.
Gilt für: Personalwesen und Recruiting, Versicherungswesen, Kreditwürdigkeitsprüfung und öffentliche Dienstleistungen.
Prüfen Sie Ihren Compliance-Status
Fronterio klassifiziert Ihre KI-Agenten automatisch nach Risikostufe und verfolgt Ihre Betreiberpflichten.