Sie sind hier:

Konferenz in Shanghai - Not-Ausschalter für Künstliche Intelligenz

Datum:

Künstliche Intelligenz bestimmt unseren Alltag, kann sogar den Todestag berechnen. Wo aber sind die Grenzen des Einsatzes von KI-Software? Experten in Shanghai suchen Antworten.

Künstliche Intelligenz (Symbolbild)
Konferenz in Shanghai: Die Grenzen des Einsatzes von Künstlicher Intelligenz?
Quelle: imago

"Brauchen wir einen Not-Ausschalter für die Künstliche Intelligenz?" So lautete eine der vielen Forschungsfragen, die auf der Weltkonferenz Künstliche Intelligenz (KI) in Shanghai diskutiert werden sollten.

Allerdings waren die staatlichen Konferenzplaner in Peking mit den eingereichten Konferenzthemen nicht so ganz zufrieden. Die chinesische Regierung mochte die ethische Fragestellung nicht. Und so wurde aus den "ethischen Grenzen des Einsatzes Künstlicher Intelligenz" das von der Regierung erlaubte Thema "Grenzen von KI-Technologien."

China fürchtet Diskussion um Social Score

Ethische Fragen hätten auf einer technischen Konferenz nichts zu suchen, fanden die Wissenschaftsplaner der Kommunistischen Partei Chinas. Sie befürchteten, dass dann auch kritische Diskussionen über KI-gestützte Überwachungssysteme und den ab 2020 landesweit einzuführenden Social Score auf der Konferenz geführt würden.

Die Berechnung des Social Scores - eine Art Angepasstheitswert für jeden Bürger - ist das wichtigste Projekt der Social-Engineering-Kampagnen. Wer sich um alte Menschen kümmert, öffentliche Plätze sauber hält, erhält Punkte für seinen Social Score. Für regierungskritische Äußerungen gibt es Punktabzug.

Verhaltensprognosen durch Künstliche Intelligenz

Für eine Stelle im öffentlichen Dienst oder für einen Platz in einer guten Schule werden Scorewerte vorgegeben. Bürger mit einem miesen Sozialpunktestand dürfen nicht mal mehr ein Zugticket kaufen.

Und aus all den gesammelten Daten für den Social Score errechnet eine Künstliche Intelligenz Verhaltensprognosen für die Menschen. Über dieses Projekt verbietet sich nach Meinung der chinesischen Regierung jede Diskussion.

Das gilt auch für eine Konferenz über Künstliche Intelligenz. Doch über die eingesetzten Algorithmen wird in Shanghai dennoch diskutiert, und zwar mit ausdrücklicher Erlaubnis von Regierung und Partei.

"Überlernen" als Gefahr

"Um das menschliche Sozialverhalten zu messen, brauchen wir eine Datenanalyse", meint Professor Xueqi Cheng von der chinesischen Akademie der Wissenschaften. Damit die Analyse-Algorithmen wirklich effiziente Prognosen liefern, dürfen sie nicht "überlernen".

Künstliche Intelligenz will immer optimieren. Wenn eine KI-Software darauf trainiert wird, kriminelles Verhalten zu prognostizieren, dann wird die Software die Mustererkennung so verfeinern, dass ihr kein Verhaltensmuster entgeht, das auf künftiges kriminelles Verhalten hinweist.

Das funktioniert aber nur bis zu einem bestimmten Grad. Wenn die Optimierung nicht rechtzeitig gestoppt wird, kann es übel werden. Die Software "überlernt" dann, wie die Experten das nennen. Die Konsequenz eines solchen "Überlernens": Die Künstliche Intelligenz erkennt dann überall und nur noch Muster kriminellen Verhaltens. Deshalb muss der Lernprozess genau kontrolliert und rechtzeitig gestoppt werden.

Not-Ausschalter: Ethik vs. Ökonomie

Die Entwickler müssen nachvollziehen können, wie und warum das KI-System zu einer bestimmten Erkenntnis oder Entscheidung gekommen ist. Droht die Gefahr, dass sie das nicht mehr können, muss das System gestoppt werden. Eine Art Not-Ausschalter muss her. Den brauchen alle KI-Systeme. Egal ob die Künstliche Intelligenz Muster kriminellen Verhaltens, Tumorgewebe beim Menschen oder notwendige Wartungsarbeiten bei Maschinen erkennen soll.

Die Konstruktion eines solchen Not-Ausschalters setzt aber voraus, dass zuvor die Grenzen des Einsatzes von Künstlicher Intelligenz klar definiert wurden. Und deshalb wird - ein wenig unter der Hand - die ethische Frage nach den Grenzen Künstlicher Intelligenz auch in Shanghai diskutiert.

Allerdings hat die Parteiführung zur Auflage gemacht, dass auch bei einer solchen Debatte die Vorgaben des 19. Nationalen Kongresses der Kommunistischen Partei Chinas unbedingt eingehalten werden müssen. Und die sehen vor, dass "das Internet, Big Data und KI-Technologien die Realwirtschaft Chinas antreiben müssen".

Der Not-Ausknopf für Künstliche Intelligenz ist in Shanghai also nicht nur eine ideologische Notwendigkeit, sondern in erster Linie eine wirtschaftliche.

Gemerkt auf Mein ZDF! Merken beendet Bewertet! Bewertung entfernt Abonniert auf Mein ZDF! Abo beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Um zu verstehen, wie unsere Webseite genutzt wird und um Ihnen ein interessenbezogenes Angebot präsentieren zu können, nutzen wir Cookies und andere Techniken. Hier können Sie mehr erfahren und hier widersprechen.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, können Sie jetzt eine Altersprüfung durchführen. Dafür benötigen Sie Ihr Ausweisdokument.

Sie wechseln in den Kinderbereich und bewegen sich mit Ihrem Kinderprofil weiter.