Die KI-Verordnung: Verbotene Praktiken und Rückausnahmen
Die EU plant mit der „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) die Nutzung von KI grundlegend zu regeln. In dieser Folge meiner Artikelserie zum Thema KI stelle ich verbotene Praktiken und Rückausnahmen der KI-VO vor, die in Artikel 5 behandelt werden. Diese Regelungen sollen sicherstellen, dass KI-Systeme auf ethische und verantwortungsvolle Weise entwickelt und eingesetzt werden. Sie legen fest, welche Anwendungen von künstlicher Intelligenz in der Europäischen Union ausnahmslos unzulässig sind und unter welchen Umständen bestimmte Ausnahmen gemacht werden können.
Verbotene Praktiken
Artikel 5 der KI-VO listet eine Reihe von Praktiken auf, deren Einsatz streng verboten ist, da sie ein erhebliches Risiko für die Grundrechte darstellen. Der Verordnungsgeber sieht diese Praktiken als zu gefährlich an, um ihren Einsatz zu gestatten. Dies unterstreicht die besondere Bedeutung des Schutzes der Grundrechte in der KI-Regulierung. Zugleich ist die Forschung an solchen Praktiken durch die Wissenschaftsfreiheit geschützt und daher nicht verboten.
1. Manipulative Systeme
Der Einsatz von KI-Systemen, die auf eine Beeinflussung der Willensbildung einer Person abzielen, ist verboten. Dabei handelt es sich sowohl um unterschwellige Techniken als auch um absichtlich manipulative oder täuschende Techniken. Zudem muss eine manipulative oder täuschende Technik eine wesentliche Veränderung in der Willensbildung bewirken oder eine solche Wirkung beabsichtigen, um unter das Verbot zu fallen.
Ein Beispiel wären Systeme, die mithilfe von Subliminal-Techniken (Techniken, die unterhalb der Wahrnehmungsschwelle wirken) das Verhalten von Menschen beeinflussen, ohne dass diese sich dessen bewusst sind. Solche Systeme könnten etwa für Werbung oder politische Propaganda verwendet werden, um unbemerkt Einfluss auf das Verhalten von Individuen zu nehmen. Dies gilt jedoch nur, wenn die Beeinflussung wesentlich ist und darauf abzielt, der betroffenen Person oder Dritten physischen oder psychischen Schaden zuzufügen. Entscheidend ist jedoch die Absicht des KI-Einsatzes zur Manipulation oder Bewusstseinsbeeinflussung, was in der Praxis häufig schwer nachzuweisen sein dürfte. Diese Schwierigkeit könnte sich als hinderlich für die Praktikabilität und Wirksamkeit der Vorschrift erweisen.
2. Ausbeutung vulnerabler Gruppen
Es ist verboten, KI-Systeme einzusetzen, die die Schwächen von besonders schutzbedürftigen Personen ausnutzen - beispielsweise aufgrund ihres Alters, ihrer Behinderung oder ihrer wirtschaftlichen Situation. Ziel dieser Regelung ist es, zu verhindern, dass solche besonders schutzbedürftige Gruppen durch KI-Systeme zu Handlungen verleitet werden, die ihnen schaden oder ihnen selbst oder anderen Personen erheblichen Schaden zufügen könnten, etwa durch aggressive Marketingstrategien. Um der Verbotsnorm zu unterliegen, muss also zumindest eine hinreichende Wahrscheinlichkeit dafür bestehen, dass ein schutzbedürftiger Personenkreis geschädigt wird, außerdem muss dies wiederum bewirkt oder zumindest beabsichtigt worden sein. Eine solche Kausalkette dürfte kaum nachzuweisen sein, zumal sich der Verwender des KI-Systems hinsichtlich subjektiver Elemente wie absichtlichem Handeln scheinbar mühelos mit der fehlenden Erklärbarkeit neuronaler Netze zu exkulpieren vermag („Black Box“).
3. Massenüberwachung und soziale Bewertungssysteme (Social Scoring)
Ein weiteres Verbot betrifft den Einsatz von Systemen zur sozialen Bewertung von Personen (Social Scoring); derartige Techniken werden bereits in Ländern wie z.B. China oder Venezuela eingesetzt. In der EU dürfen künftig keine Systeme eingesetzt werden, die das Verhalten oder bestimmte Merkmale von Personen bewerten, insbesondere wenn diese Bewertung zu einer ungerechtfertigten oder unverhältnismäßigen Benachteiligung führt. Dies könnte etwa in Fällen geschehen, in denen Daten verwendet werden, die ursprünglich für andere Zwecke erhoben wurden. Interessanterweise wurde ein Vorschlag, das Verbot auf Behörden und Privatakteure im behördlichen Auftrag zu beschränken, im endgültigen Gesetzestext nicht aufgenommen.
4. Risikobewertungen basierend auf Profiling
Die KI-VO verbietet ausdrücklich KI-Systeme, die basierend auf Profiling oder der Bewertung persönlicher Merkmale das Risiko bewerten, ob eine Person eine Straftat begehen könnte. Dies ist jedoch nur dann verboten, wenn keine objektiven und überprüfbaren Fakten vorliegen, die im Zusammenhang mit kriminellen Aktivitäten stehen.
5. Biometrische Echtzeit-Fernidentifizierung
Ein besonders umstrittenes Thema im Gesetzgebungsverfahren war der Einsatz von biometrischen Echtzeit-Fernidentifizierungssystemen zur Strafverfolgung. Grundsätzlich gelten solche Anwendungen als Hochrisiko-KI-System und fallen damit nicht per se unter die verbotenen Praktiken. Der Einsatz solcher Systeme durch Strafverfolgungsbehörden ist jedoch verboten, es sei denn, es liegen bestimmte Ausnahmetatbestände vor. Diese Ausnahmen betreffen unter anderem die Suche nach vermissten Personen, die Prävention von terroristischen Gefahren oder die Identifikation von Tätern schwerwiegender Straftaten. Die Verordnung stellt jedoch keine eigenständige Rechtsgrundlage für solche Maßnahmen dar. Diese müssen auf nationalen Vorschriften basieren, die wiederum den Mindestschutz der Verordnung gewährleisten müssen.
6. Emotionserkennung und biometrische Kategorisierung
KI-Systeme, die Emotionen von Personen am Arbeitsplatz oder in Bildungseinrichtungen ableiten, sind verboten - es sei denn, sie dienen medizinischen oder Sicherheitszwecken. Zudem sind Systeme verboten, die Personen anhand biometrischer Daten kategorisieren, um zum Beispiel Rückschlüsse auf ihre Rasse, politische Einstellungen oder Religion zu ziehen.
Rückausnahmen und spezifische Bedingungen
Obwohl die oben genannten Praktiken grundsätzlich verboten sind, sieht die KI-Verordnung unter bestimmten Voraussetzungen Rückausnahmen vor. Diese Ausnahmen sind eng gefasst und unterliegen strengen Bedingungen, um Missbrauch vorzubeugen.
1. Biometrische Identifizierung zu Sicherheitszwecken
In Ausnahmefällen darf die biometrische Fernidentifizierung in Echtzeit durch Strafverfolgungsbehörden eingesetzt werden, um schwere Straftaten zu verhindern oder aufzuklären. Diese Ausnahme gilt jedoch nur unter strengen Voraussetzungen, wie der gerichtlichen Genehmigung, und die Maßnahme muss verhältnismäßig sein. Zudem ist die nachträgliche Nutzung der erhobenen Daten weniger streng geregelt, sofern es sich nicht um eine Echtzeitverarbeitung handelt. Dennoch greifen hier weitere Rechtsvorschriften, wie etwa die Datenschutz-Grundverordnung (DSGVO), die berücksichtigt werden müssen.
2. Nationale Sicherheit und Verteidigung
Der Einsatz von KI in Bereichen der nationalen Sicherheit oder Verteidigung kann von den Regelungen der KI-VO ausgenommen sein. Diese Ausnahmen gelten jedoch nur für spezifische nationale Interessen und sind stark reguliert, um sicherzustellen, dass keine unverhältnismäßigen Risiken für die Bürger entstehen.
3. Wissenschaftliche Forschung
Auch für die wissenschaftliche Forschung gibt es Ausnahmen, insbesondere wenn es um den Einsatz von KI-Systemen geht, die grundsätzlich verboten sind, jedoch allein im Rahmen der Forschung zur Verbesserung von KI-Systemen oder zur Erarbeitung neuer Sicherheitsstandards eingesetzt werden. In solchen Fällen müssen ethische Überprüfungen erfolgen, um die Grundrechte aller beteiligten Personen zu schützen.
Sanktionen und Umsetzungsfrist
Die Nichtbeachtung der Verbote kann schwerwiegende Konsequenzen haben. Die KI-VO sieht eine Umsetzungsfrist von sechs Monaten vor, innerhalb derer Unternehmen die Vorschriften des Artikels 5 umsetzen müssen. Verstöße gegen die Verbote können mit erheblichen Geldbußen geahndet werden. So können Bußgelder von bis zu 35 Millionen Euro oder bis zu 7 % des weltweiten Jahresumsatzes verhängt werden, je nachdem, welcher Betrag höher ist. Unternehmen und Entwickler müssen sich dieser Verbote bewusst sein und sicherstellen, dass sie nicht in den Anwendungsbereich dieser Regelungen fallen. In Anbetracht der teils hohen und schwer nachzuweisenden Anforderungen an das Bestehen eines Verbots wird allerdings abzuwarten sein, ob die zuständigen Behörden tatsächliche Verstöße gegen Art. 5 KI-VO auch effektiv verfolgen und unterbinden können.
Bisher erschienen:
Dr. Daniel Kögel,
Fachanwalt für Urheber- und Medienrecht
koegel@web-partner.de