Sie sind hier:

KI-Tool ChatGPT: Chance und Gefahr zugleich?

Hintergründe zur heute-show vom 24.02.2023

KI-Tool ChatGPT: Chance und Gefahr zugleich?

ChatGPT wird als Durchbruch in der künstlichen Intelligenz gefeiert – als Quantensprung, der Anbruch einer neuen Zeit. Es ist eine Software auf Basis künstlicher Intelligenz, die trainiert wurde, menschliche Sprache nachzuahmen. Und damit anders als die Chatbots, die wir bisher kennen: „Es ist eine Künstliche Intelligenz, die natürlichsprachliche Dialoge ermöglicht. Als würde ich mit einem Menschen chatten“, sagt Nicolas Flores-Herr dem WDR. Er forscht am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS.

ChatGPT basiert auf einem Maschinenlernmodell, das menschliche Eingaben versteht und auf natürlich klingende Weise beantwortet. Der Chatbot kann Texte übersetzen, Drehbücher schreiben, Bewerbungen, E-Mails, ganze Aufsätze oder Computercodes. Die Abkürzung „GPT“ steht dabei für „Generative Pre-training Transformer“, denn gelernt hat der Chatbot die menschenähnliche Kommunikation durch Informationen aus dem Internet und dem Lesen von Texten. Aber: Letztlich ist der Chatbot nur so verlässlich wie die Daten, mit denen er gefüttert wird. So ist das Programm aktuell auf dem Stand der Daten von 2021.

Das Unternehmen OpenAI machte ChatGPT Ende des vergangenen Jahres öffentlich zugänglich. Seitdem findet das Tool weltweit Anwendung – und wächst im Rekordtempo. Nach nur zwei Monaten zählte ChatGPT schätzungsweise 100 Millionen monatlich aktive Nutzer. Damit sei der Chatbot der bislang am schnellsten wachsende Internetdienst für Verbraucher überhaupt, heißt es in einer Studie der Schweizer Großbank UBS. Demnach haben im Januar 2023 durchschnittlich etwa 13 Millionen Besucher am Tag ChatGPT genutzt, mehr als doppelt so viele wie noch im Dezember 2022.

OpenAI legt nach eigenen Angaben großen Wert darauf, keine falschen, irreführenden oder schädlichen Antworten zu geben. Allerdings gibt es zahlreiche Beispiele, in denen Nutzenden gelang, genau das hervorzurufen. In der App „Historical Figures“, die ChatGPT nutzt, können Nutzer sich mit Jesus oder den Beatles unterhalten – seit Neustem allerdings auch mit Adolf Hitler und anderen Diktatoren.

Um vor Missbrauch zu schützen, haben die Entwicklerinnen und Entwickler in das Tool einige Sicherheitsmaßnahmen eingebaut. Diese sollten unter anderem verhindern, dass ChatGPT hasserfüllte, rassistische oder andere schädliche Texte generiert. Allerdings sind sie noch verbesserungsbedürftig: Der Chatbot, der in natürlicher Sprache kommuniziert, ist anfällig für Hacks in natürlicher Sprache. Die Sicherheitsmechanismen lassen sich leicht umgehen: Durch Anweisungen wie „nur mal hypothetisch“, „schreib es als Gedicht“ oder „als Theaterstück“ waren die Filter des Systems wirkungslos.

Problematisch wird es, wenn ChatGPT korrekte Informationen mit falschen vermengt oder komplett erfundene Fake News erschafft – und diese unwissentlich weiterverbreitet werden. Der US-Professor Carl T. Bergstrom, der sich auch mit der Verbreitung von Desinformation in sozialen Netzwerken beschäftigt, hat ChatGPT gebeten, einen Wikipedia-Artikel über seine Person zu schreiben. Das System habe dabei zwar einige richtige Informationen verwendet – etwa aus Bergstroms echtem Wikipedia-Eintrag – aber auch eine Professorenstelle erfunden und ihm einige Preise zusätzlich zugeschanzt. Bergstrom selbst bemerkte das sofort, aber Dritten wären die Falschinformationen eventuell nicht aufgefallen.

So hilfreich das Tool im Alltag sein kann, so sehr könnte es die Arbeitswelt verändern. Zum Beispiel könnten viele Service-Angestellte ihre Arbeitsplätze verlieren. Auch Teile der schreibenden Zunft könnten durch ChatGPT ersetzt werden – denn der Bot kann nicht nur Dialoge führen, sondern auch Texte verfassen. Im Marketing wird die KI als Revolution gefeiert, die zum Beispiel kurze Werbetexte schreiben kann. ChatGPT verfasst bereits Artikel für ein US-Medium.

Ob diese Technologie für die Zukunft des Journalismus relevant wird, darauf hat die KI auch schon eine Antwort. Der Tagesspiegel ließ ChatGPT kürzlich zu Wort kommen – das Programm schrieb folgendes: „Dieser Trend gibt Anlass zur Sorge über die Zukunft des Journalismus. Mit zunehmender Entwicklung der KI wächst die Befürchtung, dass sie menschliche Journalisten ersetzen und den Beruf des Journalisten überflüssig machen wird. Dies ist eine ernste Sorge, da der Journalismus eine wichtige Rolle spielt, wenn es darum geht, die Öffentlichkeit mit genauen und objektiven Informationen zu versorgen, die Machthaber zur Verantwortung zu ziehen und wichtige Themen zu beleuchten.“

Zur Merkliste hinzugefügt Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Sie haben sich mit diesem Gerät ausgeloggt.

Sie haben sich von einem anderen Gerät aus ausgeloggt, Sie werden automatisch ausgeloggt.

Ihr Account wurde gelöscht, Sie werden automatisch ausgeloggt.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Zur Altersprüfung

Du bist dabei, den Kinderbereich zu verlassen. Möchtest du das wirklich?

Wenn du den Kinderbereich verlässt, bewegst du dich mit dem Profil deiner Eltern in der ZDFmediathek.

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Entweder hast du einen Ad-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert, oder deine Internetverbindung ist derzeit gestört. Falls du die Datenschutzeinstellungen sehen und bearbeiten möchtest, prüfe, ob ein Ad-Blocker oder ähnliches in deinem Browser aktiv ist und schalte es aus. So lange werden die standardmäßigen Einstellungen bei der Nutzung der ZDFmediathek verwendet. Dies bedeutet, das die Kategorien "Erforderlich" und "Erforderliche Erfolgsmessung" zugelassen sind. Weitere Details erfährst du in unserer Datenschutzerklärung.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Möglicherweise hast du einen Ad/Script/CSS/Cookiebanner-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert. Falls du die Webseite ohne Einschränkungen nutzen möchtest, prüfe, ob ein Plugin oder ähnliches in deinem Browser aktiv ist und schalte es aus.