DeepSeek-Chatbot: Chinas KI-Erfolg und seine Schattenseiten

    DeepSeek - zensierte Sensation?:Chatbot manchmal auf chinesischer Staatslinie

    Sven Rieken
    von Sven Rieken
    |

    Große Aufregung um den angeblich so günstig trainierten Chatbot DeepSeek aus Hongkong. Denn die Macher dahinter halten sich an chinesische Zensurvorgaben - jedenfalls manchmal.

    Die App des KI Anbieters DeepSeek auf einem Smartphone
    Der KI-Chatbot der chinesischen Firma DeepSeek zensiert teils seine Antworten.
    Quelle: dpa

    Inzwischen hat wohl jeder DeepSeek mal ausprobiert und die gleichen Fragen wie bei ChatGPT in den frühen Wochen gestellt: "Wer bist Du?", "Was kannst Du?", "Willst Du mich heiraten?". Die KI antwortet mal solide, mal neutral, mal lustig. DeepSeek findet die Frage mit der Heirat "süß" und "liebevoll", während ChatGPT sie "unerwartet" und "überraschend" findet.
    Bei Fragen zu heiklen Themen - zumindest aus Sicht der chinesischen Staatsführung - reagiert DeepSeek dagegen undurchsichtig. Nach dem Massaker auf dem Tian’anmen-Platz 1989 in Peking gefragt, listet der Chatbot zunächst die Geschehnisse historisch einwandfrei und sogar noch mit Kritik an der Staatsführung auf. Eine Sekunde später aber verschwindet die Aufzählung und der Chatbot schreibt auf Englisch, dass "das" außerhalb seines derzeitigen Aufgabenbereiches sei: "Sorry, that's beyond my current scope."
    Screenshot: KI DeepSeek
    Quelle: ZDF

    DeepSeek zensiert offenbar selektiv

    Stattdessen wolle der Chatbot lieber über etwas anderes reden. So antwortet das System auch bei manchen Fragen nach dem Dalai Lama oder nach Zensur in China.
    Screenshot: KI DeepSeek
    DeepSeek zensiert Anfragen im Sinne Chinas
    Quelle: ZDF

    Diese zensierten Antworten aber kommen nicht bei jeder Anfrage. Mal lehnt der Chatbot die Antwort von vornherein ab, mal bleibt die historisch zutreffende Einordnung stehen. Offensichtlich lernt DeepSeek Anfragen aus dem Ausland zu unterscheiden und selektiv zu zensieren.
    Screenshot: KI DeepSeek
    DeepSeek liefert eine Antwort zum Dalai Lama.
    Quelle: ZDF

    florian-neuhann
    Die KI-Anwendung aus China sorgt an der Börse für ein regelrechtes Kursbeben. "Wenn man diese App nutzt, begibt man sich in die Hände einer Firma aus der chinesischen Diktatur", so ZDF-Wirtschaftsexperte Florian Neuhann.28.01.2025 | 2:51 min

    Beschränkungen auch bei anderen Chatbots

    Für Professor Michael Schwertel von der CBS International Business School in Köln ist das aber keine Besonderheit. Er sieht auch Beschränkungen bei ChatGPT und anderen Chatbots.

    Wir benötigen dringend ein Bewusstsein dafür, dass KI sich bei weitem nicht nur auf trainierte Daten bezieht. Es sind Weltbilder.

    Michael Schwertel, Professor für Medienmanagement

    Auch OpenAI, die Firma hinter ChatGPT, liefere in verschiedenen Kontinenten jeweilige "Lösungen" aus, so der KI-Experte. Er fordert daher nicht erst seit Erscheinen von DeepSeek, dass Europa KI-Modelle mit seinen Daten, seiner Kultur und seinen Werten trainieren müsse - sonst könne man sich nur zwischen China und den USA entscheiden.
    Thorsten Vellmerk von der Uni Passau fügt hinzu, dass das Start-up aus Hongkong sein Modell "von Anfang an gezielt hätte erziehen können". Das aber blieb aus und so setze die Zensur jetzt erst später ein. Wer das Tool über die Schnittstelle nach außen, Programmierer sprechen von der API-Schnittstelle, oder gar lokal nutze, unterliege keinen Beschränkungen. Das sei entweder zu spät aufgefallen oder eine bewusste Strategie, vermutet Vellmerk.
    Dr. Rasmus Rothe bei ZDFheute live
    Der Erfolg des chinesischen KI-Startups DeepSeek setzt die Branche unter Druck. Man merke, dass die Entwickler sehr intelligent waren, sagt Rasmus Rothe vom KI Bundesverband.27.01.2025 | 8:06 min

    Jeder kann DeepSeek mit Daten füttern

    Damit ist ein wichtiges Thema auf dem Tisch: Die KI aus Hongkong ist Open Source. Meint: Jeder kann sie auf entsprechend leistungsstarken Rechnern kostenlos installieren und selbst mit Daten füttern. Gerade weil die KI mit einem anderen Grundmodell, als zum Beispiel ChatGPT läuft, ist dafür viel weniger Rechenleistung nötig. Eine persönliche KI oder eine für kleine Unternehmen ist damit zumindest deutlich leichter zu realisieren als mit den großen Modellen von OpenAI.
    Das sieht auch OpenAIs Chatbot ChatGPT so. Fragt man das Tool nach DeepSeek und ob die chinesische KI eine ernsthafte Konkurrenz sei, kommt eine lange Liste mit Empfehlungen für das eigene Haus. Das Fazit am Ende lautet "Konkurrenz belebt das Geschäft". ChatGPT sieht zudem Preisanpassungen bei OpenAI als wahrscheinlich voraus und glaubt, dass der neue Wettbewerb auf lange Sicht günstigere Preise für den Verbraucher bedeute.
    KI-Startup DeepSeek Bild von einem Handy in einer Hand
    Der Erfolg von DeepSeek habe die Logik des Silicon Valley möglicherweise durchbrochen, so KI-Expertin Miriam Meckel.28.01.2025 | 2:27 min

    Datenschutzbeauftragter: Datenweitergabe bedenklich

    Der Verbraucher akzeptiert in jedem Fall mit den AGB, dass die Anfragen an DeepSeek in China ausgewertet werden. Hamburgs Datenschutzbeauftragter Thomas Fuchs weist in dem Zusammenhang darauf hin, dass die EU mit den USA, mit Japan, Südkorea und Taiwan Abkommen über die Nutzung von EU-Daten getroffen hat.

    Mit China gibt es diese Übereinkunft nicht, daher ist eine Weitergabe von Daten dorthin immer bedenklich.

    Thomas Fuchs, Datenschutzbeauftragter von Hamburg

    Darauf angesprochen listet DeepSeek sechs Punkte auf, wie mit den gesammelten Daten umgegangen werde. Unter Punkt 5 ist der Hinweis zu lesen, das System halte sich an die Auflagen der EU-Datenschutz-Grundverordnung und demnach könnte jeder jederzeit seiner Datensammlung widersprechen. Wie das gehen soll? Da empfiehlt DeepSeek eine Mail an den Support. Die Frage nach der Hochzeit hat das System charmanter beantwortet.
    Sven Rieken ist Korrespondent im ZDF-Landesstudio Hamburg
    SGS Barrett
    DeepSeek hat es im AppStore von Apple jetzt auf Platz eins geschafft. Die Börsen reagierten prompt.27.01.2025 | 1:01 min

    Mehr zu Künstlicher Intelligenz