Neuester Artikel

Lesen Sie hier den neuesten Artikel des Autors zum Thema Datenschutz und Informationssicherheit.

Sofort lesen Übersicht

EU-Kommission will biometrische Massenüberwachung untersagen

 

EU-Kommission will biometrische Massenüberwachung untersagen

Der Einsatz von sogenannter künstlicher Intelligenz (KI) soll europaweit in mehreren Bereichen streng reguliert werden. Dazu zählen insbesondere der Straßenverkehr, die Kreditvergabe sowie die Gesichtserkennung – doch es wird Ausnahmen geben.

Die EU-Kommission hat eine Reihe von Grundregeln für die Anwendung von KI vorgeschlagen, diese sollen als Verordnung in der EU eingeführt werden. Brüssel wolle Innovation nicht im Weg stehen, aber der Gesetzgeber müsse eingreifen, wenn „Sicherheit und Grundrechte der EU-Bürger auf dem Spiel stehen“, ließ die für Digitales zuständige Kommissionsvize Margrethe Vestager verlauten. Eine entsprechende Gefahr bestehe demnach insbesondere beim Einsatz von KI zur Massenüberwachung und zur Verhaltenssteuerung.

KI-Werkzeuge, die zu diesen Zwecken eingesetzt werden könnten, sollten nach Ansicht der Kommission grundsätzlich verboten werden. Als Beispiele nennt die Behörde auch Systeme zur „sozialen Bewertung“ von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit.

Andere Anwendungen sollen den Plänen zufolge als „risikoreich“ eingestuft werden und würden strengen Auflagen unterliegen. Dies soll etwa für den Einsatz von KI im Straßenverkehr gelten. Auch Auswahlsysteme, beispielsweise im Hochschulsektor, bei der Personalsuche von Unternehmen oder zur Kreditvergabe, würden darunter fallen.

Datensätze prüfen, um Diskriminierung zu vermeiden

Kritische, aber durchaus nützliche Einsatzbereiche für KI sieht die Kommission in der Justiz und in der Verwaltung. Die Prüfung von Beweismitteln vor Gericht oder die Kontrolle von Ausweisdokumenten könnte automatisiert werden, müsste aber ebenfalls strengen Regeln unterliegen. Entsprechende Selbstlernprozesse der Maschinen müssten dabei genau dokumentiert und die zugrunde liegenden Datensätze geprüft werden, um Diskriminierung zu vermeiden.

Strenge Auflagen sollen laut Kommission für Werkzeuge zur „biometrischen Fernidentifizierung“ von Menschen - etwa per Gesichts- oder Stimmerkennung - gelten. „Ihr Echtzeit-Einsatz in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ist grundsätzlich verboten“, teilte die Behörde mit. Eng gefasste Ausnahmen soll es zum Beispiel für die Suche von Vermissten oder zur Abwehr konkreter Gefahren und nur auf richterliche Anordnung geben. Die militärische Anwendung von KI decken die Vorschriften grundsätzlich nicht ab.

Bürgerrechtlern gehen die Ausnahmen zu weit

Eine Reihe weiterer Anwendungen – beispielsweise Spamfilter oder Computerspiele, die mit KI arbeiten – sollen weniger strengen Auflagen unterliegen. Zum Beispiel müsste beim Einsatz von Chatbots im Kundenservice für den Nutzer oder die Nutzerin klar ersichtlich sein, dass sie oder er mit einer Maschine kommuniziert. Für alle weiteren Anwendungen – die laut Kommission „große Mehrheit der KI-Systeme“ – sollen demnach keine Anforderungen gelten, die über die üblichen Regeln zur Produktsicherheit hinausgehen.

Über die Vorschläge der EU-Kommission müssen nun noch die EU-Staaten und das Europaparlament verhandeln. Es dürfte noch einige Jahre dauern, ehe in der EU neue Regeln gelten. In einer ersten Reaktion rief die europäische Bürgerrechtsorganisation EDRi das Parlament dazu auf, die Vorschläge der Kommission zu überarbeiten. EDRi bemängelt insbesondere, dass diese hinsichtlich des Ausschlusses von „biometrischer Massenüberwachung“ nicht weit genug gingen, die Ausnahmen seien dagegen zu weitreichend.