Sie sind hier:

Algorithmen bestimmen den Alltag - Der Wilde Westen beim Verbraucher-Scoring

Datum:

Computer entscheiden schon heute darüber, ob Menschen Kredite bekommen oder einen Job erhalten. Wissenschaftler fordern nun eine strengere Kontrolle durch den Staat.

Standbild:Ethik der Algorithmen
Ethik der Algorithmen - eine Kontrolle ist dringend notwendig.
Quelle: colourbox

"Irgendwann in seinem Leben wird jeder Bürger mit Verbraucher-Scoring konfrontiert", urteilt Professor Gerd Gigerenzer vom Max-Planck-Institut für Bildungsforschung in Berlin. Spätestens wenn er einer Schufa-Auskunft zustimmt, um eine Mietwohnung zu bekommen oder beim Mobilfunkvertrag. Dann erhält er eine Note für seine "Kreditwürdigkeit", deren Zustandekommen niemand mehr so richtig überblickt. Errechnet wird diese Note, auch Kreditscore genannt, von Software, die Wissenschaftler unter dem Namen "algorithmische Entscheidungsverfahren" zusammenfassen.

Algorithmen entscheiden mehr, als man glaubt

Diese Algorithmen können viel mehr, als nur Kreditnoten zu vergeben. Sie berechnen Preise für bestimmte Käuferschichten in Supermärkten. Sie entscheiden in den USA bereits, wer im Gefängnis blieben muss und wer auf Bewährung entlassen wird. Geht es nach dem Willen der Google-Manager, legen solche Algorithmen demnächst auch fest, welche Patienten welche medizinische Therapie bekommen. Damit wollen Krankenversicherungen in den letzten Lebensmonaten eines Patienten Behandlungskosten und damit viel Geld sparen.

Bei den Entscheidungs-Algorithmen für Bewährungsstrafen in der amerikanischen Justiz stellte sich heraus, dass sie weiße Strafgefangene bevorzugen. Wissenschaftler untersuchten die eingesetzten Algorithmen und fanden heraus, dass rassistische Vorurteile regelrecht einprogrammiert worden waren. Von einer fairen und nachvollziehbaren Entscheidung über eine Bewährungsstrafe konnte keine Rede mehr sein.

Zwei nebeneinanderstehende Bildschirme, auf denen Algorithmen zu lesen sind.
Algorithmen sind in der Lage, Details aus unserem Privatleben vorherzusagen, und das direkte Folgen für den Alltag. "Typischerweise sind die Algorithmen bei der Schufa Geschäftsgeheimnis", erläutert Professor Gerd Gigerenzer vom Max-Planck-Institut für Bildungsforschung.
Quelle: ZDF

Das ist bei den Kredit-Scores nicht viel anders. "Denn typischerweise sind die Algorithmen bei der Schufa Geschäftsgeheimnis", erläutert Professor Gerd Gigerenzer. Deshalb kann der Bürger gar nicht kontrollieren, ob er eine gute oder schlechte Kreditnote hat.

Eincodierte Vorurteile

Ähnlich verhält es sich in immer mehr Unternehmen mit den Arbeitsverträgen. Eine Software entscheidet, welcher Bewerber den Anstellungsvertrag bekommt. Wie der dahintersteckende Algorithmus mit seinen Gewichtungen und Bewertungen auswählt, weiß niemand.

Hier fordert nun die Fachgruppe Rechtsinformatik der Gesellschaft für Informatik stärkere staatliche Kontrolle beim Einsatz solcher Algorithmen. Das knapp 200 Seiten starke Gutachten haben die Wissenschaftler für den Sachverständigenrat für Verbraucherfragen geschrieben.

Staat muss bei Scoring endlich eingreifen

Dieser Rat sitzt beim Bundesjustizministerium und wird am 31. Oktober Empfehlungen für faires Verbraucher-Scoring vorlegen. Das Gutachten der Gesellschaft für Informatik ist eines der Kernelemente für diese Empfehlungen.

"Systeme, die Scores berechnen oder Vorhersagen erstellen, müssen transparenter werden", fasst der Münchner Informatiker Bernhard Waltl eine der zentralen Forderungen des Gutachtens zusammen. Und sein Kollege Matthias Grabmair von der Carnegie Mellon University ergänzt: "Entwicklung und Verwendung solcher Algorithmen müssen dringend reguliert werden". Dafür empfehlen die Wissenschaftler nicht nur, entsprechende Gesetze im Deutschen Bundestag zu beschließen. Sie fordern auch eine bessere Kontrolle der Entscheidungsalgorithmen durch die Behörden.

Beispiel China: Überwachung total

China steuert auf eine politisch-soziale Revolution zu. Viele Bürger werden nun auch digital kontrolliert, der Staat erscheint omnipräsenter. Mit einem Sozialkreditsystem sollen nun die Handlungen der Bürger bewertet werden.

Beitragslänge:
4 min
Datum:

Nur Transparenz hilft

"Unternehmen müssen offenlegen, wie die von ihnen verwendeten Algorithmen funktionieren, und unabhängige staatliche Stellen müssen in die Unternehmen hineingehen, um eine Kontrolle der Algorithmen sicherzustellen", erklärt Bernhard Waltl. Der abgelehnte Bewerber um einen Arbeitsplatz hätte dann einen Anspruch darauf, zu erfahren, auf welcher Grundlage das Human-Resource-Programm ihn abgelehnt hat. Einprogrammierte rassistische oder sexistische Vorurteile würden so ziemlich schnell entlarvt.

Die Schufa müsste Bürgern mit einem schlechten Kredit-Score die Berechnung der Kreditnote genau erläutern und das Ergebnis bei verzerrten Gewichtungen korrigieren. Mit entsprechenden "Algorithmen-Gesetzen" wäre Schluss mit dem Wilden Westen beim Verbraucher-Scoring. Das Gutachten der Fachgruppe Rechtsinformatik sorgte jedenfalls schon gleich nach Bekanntwerden im politischen Berlin für heftige Diskussionen. Ihm wird eine ähnlich hohe Bedeutung eingeräumt wie den ersten Gutachten für einen europäischen Datenschutz.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Die Website verwendet Cookies, um Ihnen ein bestmögliches Angebot zu präsentieren. Nähere Informationen und die Möglichkeit, die Verwendung von Cookies einzuschränken finden Sie hier.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.