Sie sind hier:

Ein Jahr Datenschutzgrundverordnung - Künstliche Intelligenz fordert den Datenschutz heraus

Datum:

Seit einem Jahr ist die Datenschutzgrundverordnung in Kraft - und steht weiter vor Herausforderungen. So wird der Einsatz von KI-Systemen zur Bewährungsprobe für die Datenschützer.

Ein Mitarbeiter der Dürr AG programmiert einen Sealing-Roboter
KI wird die Arbeitswelt verändern.
Quelle: dpa

Die Erwartungen an KI-Systeme sind hoch: Tumore sollen schneller erkannt, Verbrechen besser aufgeklärt und sogar vermieden werden. Ob in der Personalauswahl, bei der Kreditvergabe oder in der Justiz - Methoden maschinellen Lernens und Scoringansätze sollen dem Menschen helfen, rationaler und ohne Vorurteile zu entscheiden. Dafür werden viele Daten benötigt, um die Systeme zu trainieren. Bundeskanzlerin Angela Merkel hat deshalb schon einmal von den "Daten als Öl des 21. Jahrhunderts" gesprochen. Die Datenschützer mahnen hier jedoch zur Vorsicht.

"Wir dürfen uns nicht der Logik einer Künstlichen Intelligenz unterwerfen, die am Ende die Freiheitsrechte des Einzelnen ausblendet", warnt zum Beispiel Stefan Brink, Landesbeauftragter für Datenschutz und Informationsfreiheit in Baden-Württemberg. Der Mensch darf die Kontrolle über Systeme, die mit Methoden Künstlicher Intelligenz arbeiten, nicht aus der Hand geben. Die Forderung wird von vielen und schnell erhoben. Unklar bleibt oft, wie sie sich umsetzen lässt. "Dabei hilft uns ganz wesentlich die europäische Datenschutzgrundverordnung", meint Ulrich Kelber, seit Januar Bundesbeauftragter für den Datenschutz und die Informationsfreiheit. Europa muss hier eine KI-Strategie entwickeln, die sich sowohl vom digitalen Kapitalismus des Silicon Valley als auch von der Überwachungsgesellschaft Chinas deutlich unterscheidet.

Bürger muss Herr seiner Daten bleiben

In beiden Fällen wird der einzelne Bürger von seinen Daten enteignet. Er wird Entscheidungen unterworfen, die auf Grundlage dieser enteigneten Daten von KI-Systemen getroffen werden. Das soll sich nicht nur nach dem Willen der Datenschützer in Europa anders entwickeln. Wesentliche Entwicklungshinweise gibt dabei die Datenschutzgrundverordnung.

"Zum Beispiel die Zwecksetzungen für die Datenverarbeitung werden hier eine entscheidende Rolle spielen", erläutert Stefan Brink. Zu welchem Zweck also ein KI-System welche Daten verarbeitet, muss genau erklärt werden. Das ist eine recht weit gehende Forderung. "Denn jeder einzelne Bürger, der damit konfrontiert wird, muss sich eine Vorstellung davon machen können, wie KI funktioniert und wie er selbst Einfluss nehmen kann auf die Ergebnisse", führt Datenschützer Brink aus. Deshalb kann die Forderung nach Verifikationsmethoden und Kontrollsystemen, mit denen genau nachvollzogen werden kann, wie ein KI-System arbeitet, letztlich aus der Datenschutzgrundverordnung abgeleitet werden.

Datenschutzgrundverordnung als Basis

Mit ihrer Hambacher Erklärung haben die Datenschützer auf Länder- und Bundesebene solche Leitlinien entwickelt. Die Datenschutzgrundverordnung war dabei nicht nur ein Ausgangspunkt, sondern wurde auch bei der Betrachtung von Detailfragen immer wieder konsultiert. "Wir haben so eine Verbindung geschaffen zwischen der Künstlichen Intelligenz als modernster Form der Digitalisierung und dem Datenschutz, der hier den Freiheits- und Selbstbestimmungsaspekt des Einzelnen stark macht", meint Stefan Brink. Das hat sehr konkrete Konsequenzen. So muss zum Beispiel der notwendige Umfang eines Trainingsdatensatzes im Vorhinein festgelegt und begründet werden. Dabei haben anonyme Daten bei der Verarbeitung in Trainingsdatensätzen einen deutlichen Vorzug gegenüber personenbezogenen Daten. Die sollen möglichst vermieden werden.

Um etwa in der Kriminalitätsbekämpfung Verhaltensmuster zu trainieren, kann mit anonymen Verlaufsdaten gearbeitet werden. Beim selbstfahrenden Auto sollen Trainingsdaten aus Fahrsimulationen statt aus realen Autofahrten verwendet werden. Die Datenschutzgrundverordnung gibt hier viele Hinweise, wie die Selbstbestimmung des Einzelnen auch in Zeiten zunehmenden Einsatzes von KI-Systemen garantiert werden kann.

Internationale Stimmen zur europäischen DSGVO

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um Ihnen ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier können Sie mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, können Sie jetzt eine Altersprüfung durchführen. Dafür benötigen Sie Ihr Ausweisdokument.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.