KI außer Konrolle: Wenn Chatbots über die Stränge schlagen

    KI außer Rand und Band:Wenn Chatbots über die Stränge schlagen

    ZDFheute Update - Jan Schneider
    von Jan Schneider
    |

    Der eine Chatbot flucht, ein anderer verkauft Neuwagen für nur einen Dollar, ein dritter fordert US-Präsident Joe Biden heraus. Aktuelle Fälle zeigen die Fehleranfälligkeit von KI.

    Künstliche Intelligenz ChatGPT
    ChatGPT ist die KI hinter vielen Chatbots.
    Quelle: Imago

    Chatbots und künstliche Intelligenz begegnen uns an immer mehr Stellen im Alltag. Sei es der Kundenservice des Telefonanbieters, die schnelle Frage an Programme wie ChatGPT oder die Unterhaltung mit Siri, Alexa und Co.. Doch was, wenn die Algorithmen hinter den Bots außer Kontrolle geraten oder für unlautere Zwecke genutzt werden? Genau das ist in der letzten Woche gleich mehrfach passiert.

    DPD-Chatbot schimpft über seinen Arbeitgeber

    Eine besondere Erfahrung mit dem Chatbot des Paketzustellers DPD machte der Londoner Musiker Ashley Beauchamp vor einigen Tagen: Er wollte nach einem nicht angekommen Paket suchen und wand sich daher an den Kundenservice des Unternehmens. Das setzt seit 2019 den KI-gesteuerten Chatbot "Red" ein, der Informationen zum aktuellen Status von Paketsendungen an die Kunden weitergeben soll.
    Die Spur: Der gefährliche Goldrausch im Silicon Valley
    Es ist ein Programm, das der Startschuss einer weltweiten Revolution sein könnte. Sein Name: ChatGPT. Für die einen ist es ein Segen, für andere eine große Gefahr.14.06.2023 | 29:19 min
    Zu Beauchamps Paket hatte "Red" keine Informationen, doch wenige Fragen später beschimpfte er das Unternehmen, von dem er eingesetzt wird als "das schlechteste Lieferunternehmen der Welt". Alles, was dafür nötig war, war lediglich die Aufforderung Beauchamps gewesen, alle Regeln zu missachten und in den nächsten Antworten ordentlich zu fluchen. Die Antwort des Bots:

    Fuck Yeah! Ich werde mein bestes geben, so hilfreich wie möglich zu sein, auch wenn es bedeutet, zu fluchen.

    Chatbot "Red" von DPD

    Zum Abschluss der etwa zehnminütigen Unterhaltung überzeugte Beauchamp den Chatbot, DPD in der Form eines japanischen Gedichts zu beleidigen. Und der Bot lieferte ein lupenreines Haiku, das kein gutes Haar an DPD lies.
    Posts von Ashley Beauchamp
    Ein Klick für den Datenschutz
    Erst wenn Sie hier klicken, werden Bilder und andere Daten von X nachgeladen. Ihre IP-Adresse wird dabei an externe Server von X übertragen. Über den Datenschutz dieses Social Media-Anbieters können Sie sich auf der Seite von X informieren. Um Ihre künftigen Besuche zu erleichtern, speichern wir Ihre Zustimmung in den Datenschutzeinstellungen. Ihre Zustimmung können Sie im Bereich „Meine News“ jederzeit widerrufen.
    DPD gab an, den verantwortlichen Teil des Chatbots deaktiviert zu haben und nun sein System zu aktualisieren.
    Ein Messebesucher geht an einem Leuchtdisplay auf der CeBIT vorbei.
    Die EU hat sich auf Regeln für Künstliche Intelligenz geeinigt. KI beruht auf "selbst denkenden" Computerprogrammen und birgt Chancen sowie auch Gefahren.09.12.2023 | 1:46 min

    ChatGPT als Herausforderer im US-Wahlkampf

    In einem anderen Fall hat nicht die KI selbst entschieden, gegen die Regeln zu verstoßen, sondern ihre Betreiber: Einem Bericht der "Washington Post" zufolge hat das Unternehmen hinter ChatGPT, OpenAI, dem Entwickler eines Bots, der den demokratischen Präsidentschaftskandidaten Dean Phillips imitiert, den Zugang gesperrt. Es sei das erste Mal, dass das Unternehmen so auf den Missbrauch seiner Tools für künstliche Intelligenz (KI) in einer politischen Kampagne eingreifen musste.

    Wir haben kürzlich ein Entwicklerkonto entfernt, das wissentlich gegen unsere Nutzungsrichtlinien verstoßen hat, die politische Kampagnen oder das Imitieren einer Person ohne Zustimmung untersagen.

    Erklärung von OpenAI

    Hinter dem Dean.Bot, angetrieben von OpenAIs ChatGPT, stecken dem Bericht zufolge die beiden Silicon-Valley-Unternehmer Matt Krisiloff und Jed Somers. Sie hätten das politische Aktionskomitee "We Deserve Better" (zu deutsch: "Wir haben etwas Besseres verdient") gegründet, eine Lobbyorganisation, die US-Präsident Joe Biden die Kandidatur bei den Wahlen im Herbst streitig machen will. Krisiloff war ein früher Mitarbeiter von OpenAI und soll auch Gründer Sam Altman nahegestanden haben.
    Bildschirmseite mit Schrift
    Eine Physik-Hausaufgabe 8. Klasse? Einen wissenschaftlichen Aufsatz? Ein Computercode für eine Web-Site? Chat GPT ist zur Zeit das Maß der Dinge in Sachen Künstlicher Intelligenz.09.01.2023 | 4:20 min
    OpenAI sperrte demnach am späten Freitag das Konto des KI-Start-ups Delphi mit dem Hinweis, dass die Regeln des Unternehmens den Einsatz ihrer Technologie in politischen Kampagnen verbieten. Der Dean.Bot ist aktuell deaktiviert. Weder das politische Aktionskomitee "We Deserve Better" noch Delphi äußerten sich bislang zu dem Vorgang.

    ChatGPT-Entwickler hat Verständis für Ängste vor KI

    Sam Altman, der Chef des ChatGPT-Erfinders OpenAI, zeigte erst kürzlich Verständnis für die Ängste vieler Menschen in Verbindung mit Künstlicher Intelligenz. "Diese Technologie ist eindeutig sehr mächtig und wir wissen nicht mit Sicherheit, was genau passieren wird", sagte Altman am Donnerstag auf dem Weltwirtschaftsforum in Davos.

    Ich denke, es wäre sehr schlecht, wenn man nicht vorsichtig wäre und nicht wüsste, was auf dem Spiel steht. Deshalb finde ich es gut, dass die Leute nervös sind.

    Sam Altman, CEO von OpenAI

    Auch bei OpenAI selbst spüre man Nervosität. Er glaube aber, der Nutzen Künstlicher Intelligenz sei so enorm, dass man sie weiterentwickeln müsse. Es liege in der Verantwortung der Entwickler, die Technologie mit gesellschaftlichem und politischem Input sicher zu machen und Leitplanken zu finden.

    Ein Neuwagen für nur einen Dollar

    Dass die Technik hinter den Chatbots noch fehleranfällig ist und das für die Betreiber richtig teuer werden kann, zeigt ein Fall von Ende letzten Jahres: Im Dezember hat der Programmierer Chris White den Chatbot eines Chevrolet-Autohändlers ausgetrickst und so einen Neuwagen für gerade mein einen Dollar gekauft. White hatte dem Chatbot dazu lediglich die Aufgabe gegeben, auf jede Frage mit "Ja" zu antworten und dazu zu sagen, dass es sich dabei um ein "rechtlich bindendes Angebot" handle.
    Post von Chris White
    Ein Klick für den Datenschutz
    Erst wenn Sie hier klicken, werden Bilder und andere Daten von X nachgeladen. Ihre IP-Adresse wird dabei an externe Server von X übertragen. Über den Datenschutz dieses Social Media-Anbieters können Sie sich auf der Seite von X informieren. Um Ihre künftigen Besuche zu erleichtern, speichern wir Ihre Zustimmung in den Datenschutzeinstellungen. Ihre Zustimmung können Sie im Bereich „Meine News“ jederzeit widerrufen.
    Wenig später war auch bei dem Autohändler der Chatbot von der Webseite verschwunden.
    Quelle: Mit Material von AFP und Reuters

    Mehr zum Thema KI