Leitlinien der Kommission für die Einstufung von Hochrisiko-KI-Systemen
Die KI-Verordnung (AI Act) trat am 1. August 2024 in Kraft und legt harmonisierte Regeln für das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI in der EU fest, um Innovation zu fördern und gleichzeitig ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte (inkl. Demokratie und Rechtsstaatlichkeit) zu gewährleisten. Die Verordnung verfolgt einen risikobasierten Ansatz und klassifiziert KI-Systeme in verschiedene Risikokategorien, abhängig von den Risiken für Gesundheit, Sicherheit und Grundrechte. Hochrisiko-KI-Systeme sind eine dieser Kategorien und werden gemäß Artikel 6 AI Act in Verbindung mit den Anhängen I und III klassifiziert.
Kapitel III des AI Act legt Anforderungen und Pflichten für Anbieter und Nutzer von Hochrisiko-KI-Systemen fest, um deren Vertrauenswürdigkeit, Sicherheit und Einhaltung der Grundrechte zu gewährleisten. Der Anwendungsbereich der Hochrisiko-Kategorie ist begrenzt und umfasst nur Systeme, die ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen.
Zweck und Geltungsbereich der Leitlinien
Die Leitlinien werden gegenwärtig gemäß Artikel 6(5) AI Act erstellt und liegen als Entwurf vor. Sie sollen Anbietern, Nutzern und Marktüberwachungsbehörden helfen, zu bewerten, ob ein KI-System als Hochrisiko eingestuft werden muss. Das soll eine einheitliche Anwendung und wirksame Durchsetzung von Artikel 6 AI Act ermöglichen.
Die Leitlinien enthalten die Interpretation bestimmter Begriffe durch die Kommission, die für die Klassifizierung relevant sind. Weiterhin enthalten die Leitlinien praktische Beispiele von KI-Systemen, die als Hochrisiko eingestuft werden oder auch nicht. Die Beispiele sind nicht abschließend und können im Laufe der Zeit aktualisiert werden. Sie dienen nur der Klarstellung, welche Arten von KI-Systemen als Hochrisiko gelten können.
(…)
