ChatGPT und KI: Siegeszug und Sorgen vor Manipulation

Studie zu ChatGPT & Co:KI-Siegeszug und Sorgen vor Manipulation

von Mischa Erhardt

27.11.2024 | 14:42

Erstmals nutzen mehr als die Hälfte der Deutschen KI-Modelle, die Technologie hat sich rasant etabliert. Doch bleiben Sorgen - über falsche Ergebnisse bis zur Wahlmanipulation.

OpenAI hat mit ChatGPT in rasantem Tempo ein KI-System etabliert. (Symbolbild)

Quelle: AP/Michael Dwyer

Am 30. November 2022 veränderte sich das Verständnis für Künstliche Intelligenz (KI) grundlegend.

In einem geheimen Labor wurde ein neues Zeitalter eingeläutet: Während die ersten Zeilen von Code in die digitale Existenz eingepflanzt wurden, näherte sich der Moment, der das Potenzial hatte, die Welt zu revolutionieren.

Sagt wer? Genau: das Sprachmodell ChatGPT über sich selbst und seine Geburt. Aufgabe für die Text-KI war, ihren Veröffentlichungstag für den Anfang eines Online-Artikels möglichst spannend zu beschreiben.

KI im Alltag und bei der Arbeit

Die Welt revolutionieren - das ist kaum übertrieben. "Es gibt keine Technologie, die sich ähnlich schnell verbreitet hat", sagt Joachim Bühler, der Präsident des TÜV-Verbandes. "Nicht Google, nicht Facebook, nicht das Smartphone. Diese Technologie hat das Potenzial, zu einem Alltagshelfer zu werden wie E-Mail-Programme oder Navigationssysteme."

Künstliche Intelligenz erobert in immer größeren Schritten die Arbeitswelt. Dabei können Programme wie ChatGPT die Arbeit erheblich erleichtern. Doch wie kann KI richtig in den Arbeitsalltag integriert werden? 23.07.2024 | 2:34 min

In der jüngsten Studie des TÜV-Verbandes zu ChatGPT & Co geben mehr als die Hälfte der Befragten an, ChatGPT bereits ausprobiert zu haben oder das Sprachmodell und andere KI-Modelle regelmäßig zu nutzen. Die KI-Helfer unterhalten sie, erleichtern ihnen Recherchen, sie unterstützen beim Verfassen von Texten, dem Bearbeiten von Bildern und Videos oder sie übersetzen fremde Sprachen ins Deutsche.

KI kann Arbeitsproduktivität erhöhen

"Also mein Appell lautet: Man muss in Unternehmen und schon während der Ausbildung KI-Technologien proaktiv verwenden, weil sie so oder so zum Einsatz kommen", sagt Wolfgang König im Gespräch mit ZDFheute. Er ist Experte für berufliche Bildung, unter anderem im Netzwerk Q 4.0 des Bundesbildungsministeriums.

Für die angehende Facharbeiterin wäre es ja Quatsch, wenn sie in ihrer Ausbildung in einer Schattenwelt lebt, in der man die Elektronik wegschließt.

Wolfgang König, Bildungsexperte

"Sie muss doch handlungsorientiert lernen, was sie später ohnehin brauchen wird."

Problem oder Chance? Was bedeutet KI für den Unterricht? An einem Gymnasium in Köln-Pesch zeigen Lehrer und Schüler, wie ChatGPT sinnvoll eingesetzt werden kann.21.02.2024 | 1:53 min

Das beginnen Unternehmen - wenn auch zögernd - einzusehen. Einer Umfrage des Digitalverbandes Bitkom zufolge bilden nur knapp die Hälfte der befragten Unternehmen ihre Beschäftigten zumindest ansatzweise im Umgang mit KI-Technologien fort. Die andere Hälfte unternimmt nichts in diese Richtung. Dabei wäre das zu ihrem Vorteil, betont Bitkom-Präsident Ralf Wintergerst:

Generative KI kann schon heute die Produktivität am Arbeitsplatz erhöhen.

Ralf Wintergerst, Bitkom-Präsident

"Unternehmen sollten ihre Beschäftigten frühzeitig rund um KI weiterbilden und dabei auch auf rechtliche Vorgaben, Datenschutz und Datensicherheit hinweisen."

"KI-Halluzinationen" als Problem

Datenschutzfragen spielen nicht nur beim Einsatz generativer KI eine Schlüsselrolle, sondern bereits beim Trainieren der Systeme. Denn sie lernen beispielsweise von realen Autoren und ihren Texten oder von Bildern im Internet, die Künstler und Künstlerinnen geschaffen haben. Davon abgesehen ist ein weiteres Problem, dass man den Ergebnissen, die KI-Modelle ausspucken, nicht vertrauen sollte.

Auf die Frage, ob es in den USA schon einmal eine Präsidentin gab, antworten einige KI-Systeme mit Hillary Clinton.

Joachim Bühler, Präsident des TÜV-Verbandes

Die Systeme dichten auch gerne mal etwas Falsches hinzu, weil sie nicht zwischen wahr und falsch unterscheiden können, Fachleute sprechen von "KI-Halluzinationen".

Sorgen vor Wahlmanipulationen

Das wissen immerhin die meisten. So gibt mehr als die Hälfte der Befragten an, kein Vertrauen in die Ergebnisse von KI-Modellen zu haben. Und sogar 80 Prozent der Befragten sind der Meinung, dass man KI-Modelle regulieren muss, um deren Einsatz vertrauensvoller steuern zu können und auch um Fake News zu verhindern.

Sie befürchten auch, dass die Systeme demokratische Wahlen manipulieren können - etwa durch den Einsatz täuschend echt aussehender, aber falsche Bilder im Wahlkampf.

Daher fordert der TÜV-Verband, dass sich öffentliche Institutionen gegen KI-generierte Desinformation wappnen sollten. Zudem solle die Regierung die Umsetzung der KI-Regulierung durch den "AI Act" der EU in Deutschland auf die Liste der Projekte setzen, die möglichst noch vor den Neuwahlen umgesetzt werden müssen. Bis dahin sollten sich die Parteien selbst verpflichten, den Einsatz von KI in Bildern oder Texten im Wahlkampf kenntlich zu machen, mahnt Joachim Bühler.

Die Studie basiert auf einer repräsentativen Forsa-Umfrage im Auftrag des TÜV-Verbands unter 1.001 Personen zwischen 16 und 75 Jahren. Die Umfrage wurde vom 16. bis 24. Oktober 2024 durchgeführt.

Themen

ChatGPT Künstliche Intelligenz