mit Video
DeepSeek - zensierte Sensation?:Chatbot manchmal auf chinesischer Staatslinie
|
Große Aufregung um den angeblich so günstig trainierten Chatbot DeepSeek aus Hongkong. Denn die Macher dahinter halten sich an chinesische Zensurvorgaben - jedenfalls manchmal.
Der KI-Chatbot der chinesischen Firma DeepSeek zensiert teils seine Antworten.
Quelle: dpa
Inzwischen hat wohl jeder DeepSeek mal ausprobiert und die gleichen Fragen wie bei ChatGPT in den frühen Wochen gestellt: "Wer bist Du?", "Was kannst Du?", "Willst Du mich heiraten?". Die KI antwortet mal solide, mal neutral, mal lustig. DeepSeek findet die Frage mit der Heirat "süß" und "liebevoll", während ChatGPT sie "unerwartet" und "überraschend" findet.
Bei Fragen zu heiklen Themen - zumindest aus Sicht der chinesischen Staatsführung - reagiert DeepSeek dagegen undurchsichtig. Nach dem Massaker auf dem Tian’anmen-Platz 1989 in Peking gefragt, listet der Chatbot zunächst die Geschehnisse historisch einwandfrei und sogar noch mit Kritik an der Staatsführung auf. Eine Sekunde später aber verschwindet die Aufzählung und der Chatbot schreibt auf Englisch, dass "das" außerhalb seines derzeitigen Aufgabenbereiches sei: "Sorry, that's beyond my current scope."
Quelle: ZDF
DeepSeek zensiert offenbar selektiv
Stattdessen wolle der Chatbot lieber über etwas anderes reden. So antwortet das System auch bei manchen Fragen nach dem Dalai Lama oder nach Zensur in China.
DeepSeek zensiert Anfragen im Sinne Chinas
Quelle: ZDF
Diese zensierten Antworten aber kommen nicht bei jeder Anfrage. Mal lehnt der Chatbot die Antwort von vornherein ab, mal bleibt die historisch zutreffende Einordnung stehen. Offensichtlich lernt DeepSeek Anfragen aus dem Ausland zu unterscheiden und selektiv zu zensieren.
DeepSeek liefert eine Antwort zum Dalai Lama.
Quelle: ZDF
Beschränkungen auch bei anderen Chatbots
Für Professor Michael Schwertel von der CBS International Business School in Köln ist das aber keine Besonderheit. Er sieht auch Beschränkungen bei ChatGPT und anderen Chatbots.
Wir benötigen dringend ein Bewusstsein dafür, dass KI sich bei weitem nicht nur auf trainierte Daten bezieht. Es sind Weltbilder.
Michael Schwertel, Professor für Medienmanagement
Auch OpenAI, die Firma hinter ChatGPT, liefere in verschiedenen Kontinenten jeweilige "Lösungen" aus, so der KI-Experte. Er fordert daher nicht erst seit Erscheinen von DeepSeek, dass Europa KI-Modelle mit seinen Daten, seiner Kultur und seinen Werten trainieren müsse - sonst könne man sich nur zwischen China und den USA entscheiden.
Thorsten Vellmerk von der Uni Passau fügt hinzu, dass das Start-up aus Hongkong sein Modell "von Anfang an gezielt hätte erziehen können". Das aber blieb aus und so setze die Zensur jetzt erst später ein. Wer das Tool über die Schnittstelle nach außen, Programmierer sprechen von der API-Schnittstelle, oder gar lokal nutze, unterliege keinen Beschränkungen. Das sei entweder zu spät aufgefallen oder eine bewusste Strategie, vermutet Vellmerk.
Jeder kann DeepSeek mit Daten füttern
Damit ist ein wichtiges Thema auf dem Tisch: Die KI aus Hongkong ist Open Source. Meint: Jeder kann sie auf entsprechend leistungsstarken Rechnern kostenlos installieren und selbst mit Daten füttern. Gerade weil die KI mit einem anderen Grundmodell, als zum Beispiel ChatGPT läuft, ist dafür viel weniger Rechenleistung nötig. Eine persönliche KI oder eine für kleine Unternehmen ist damit zumindest deutlich leichter zu realisieren als mit den großen Modellen von OpenAI.
Das sieht auch OpenAIs Chatbot ChatGPT so. Fragt man das Tool nach DeepSeek und ob die chinesische KI eine ernsthafte Konkurrenz sei, kommt eine lange Liste mit Empfehlungen für das eigene Haus. Das Fazit am Ende lautet "Konkurrenz belebt das Geschäft". ChatGPT sieht zudem Preisanpassungen bei OpenAI als wahrscheinlich voraus und glaubt, dass der neue Wettbewerb auf lange Sicht günstigere Preise für den Verbraucher bedeute.
Datenschutzbeauftragter: Datenweitergabe bedenklich
Der Verbraucher akzeptiert in jedem Fall mit den AGB, dass die Anfragen an DeepSeek in China ausgewertet werden. Hamburgs Datenschutzbeauftragter Thomas Fuchs weist in dem Zusammenhang darauf hin, dass die EU mit den USA, mit Japan, Südkorea und Taiwan Abkommen über die Nutzung von EU-Daten getroffen hat.
Mit China gibt es diese Übereinkunft nicht, daher ist eine Weitergabe von Daten dorthin immer bedenklich.
Thomas Fuchs, Datenschutzbeauftragter von Hamburg
Darauf angesprochen listet DeepSeek sechs Punkte auf, wie mit den gesammelten Daten umgegangen werde. Unter Punkt 5 ist der Hinweis zu lesen, das System halte sich an die Auflagen der EU-Datenschutz-Grundverordnung und demnach könnte jeder jederzeit seiner Datensammlung widersprechen. Wie das gehen soll? Da empfiehlt DeepSeek eine Mail an den Support. Die Frage nach der Hochzeit hat das System charmanter beantwortet.
Sven Rieken ist Korrespondent im ZDF-Landesstudio Hamburg
Mehr zu Künstlicher Intelligenz
mit Video
DeepSeek:Chinesisches KI-Modell löst Börsenbeben aus
von Valerie Haller
mit Video
Neues Rekordhoch:Dax: Erholung nach DeepSeek-Schock
von Dennis Berger
mit Video
Schachcomputer gehackt:Wenn die KI betrügt: Welche Folgen das hat
von Lukas Wagner