GPT: Eine Software, die die Welt verändert | Terra-X-Kolumne

Im Dezember 2022 nahm ich an einem Webseminar mit etwa 300 Menschen teil, die meisten von ihnen Fachleute. Nahezu alle Teilnehmer*innen waren von dem, was GPT-3 faktisch leistet, nicht nur verblüfft, sondern schockiert.

GPT-3 ist die Abkürzung für Generative Pretrained Transformer, Version 3. Entwickelt wurde sie von dem Non-Profit-Unternehmen OpenAI Inc., das die gewinnorientierte Tochterfirma OpenAI LP kontrolliert. Geld- und Ideengeber für die Firma war zum einen Elon Musk, der sich 2018 wegen seines Interessenkonfliktes mit der Entwicklung einer KI bei Tesla aus der Leitung von OpenAI verabschiedete. Der andere Geldgeber, Microsoft, "spendete" 2019 eine Milliarde US-Dollar für die Entwicklung und sicherte sich im September 2020 die alleinigen Rechte an GPT-3. Damit ist zumindest klar, wer langfristig profitiert.

Das Programm hat die besten Aussichten, ein Google-ähnliches Monopol aufzubauen. Dass das Programm erheblich zum Gemeinwohl beitragen könnte, ist zweifellos richtig. Doch das setzt voraus, dass die Tochter nicht das, was die Mutter großzügigerweise für den öffentlichen Sektor entwickelt hat, im nächsten Zug als Datenzuliefer- und Testmaschine für die "eigentlichen" Anwendungen missbraucht.

Um es klar zu sagen: Es geht nicht darum, dass ein System Bewusstsein, Geist oder Persönlichkeit hätte. All das ist faktisch immer noch in weiter Ferne. Was das System aber kann, ist Gedicht- oder Romananfänge zu vollenden, ebenso wie Drehbücher. Es kann dabei helfen, mathematische Aufgaben zu lösen, etwa in der Schule oder im Studium - und erklärt auf Nachfrage auch, warum ein Lösungsweg der richtige ist.

Die Aufgabe, eine Internetseite für einen Online-Pizza-Lieferdienst mit zehn Pizzen zur Auswahl zu programmieren - samt einiger Bilder, frei nach Wahl - erledigt das Programm in etwa 25 Sekunden. Obendrein kann es in einem komplexen Code einen Bug suchen - und finden. Es entwickelt mit nur wenigen Vorgaben Geschäftsmodelle oder simuliert Beratungsgespräche.

GPT-3 vergleicht und bewertet Textpassagen (auch eigene) und stellt fest, wer wo abgeschrieben hat. Man ahnt auch mit wenig Phantasie, wer diese Funktion nutzen könnte und wohin sie führt. Einer der Tests bestand darin, nach einigermaßen ausgefallenen Vorgaben ein kurzes Essay zu schreiben. Viele dieser Essays sind, sagen Hochschullehrer*innen, besser als das, was ihre Student*innen im Schnitt abliefern.

Wichtig zu verstehen ist, dass das System weder jedes Mal denselben Essay schreibt noch über "Cut and Paste" fertige "Satzbauteile" neu zusammenstellt. Das Verfahren ist vollkommen anders.

Grob gesagt werden Wörter als Zahlenreihen dargestellt. Diese sogenannten Embeddings, etwa für das Wort "New", hängen mit anderen Embeddings mit einer gewissen Wahrscheinlichkeit zusammen etwa mit "York".

Der Trick ist also zu berechnen, welches nächste Wort folgt. Der Wahrscheinlichkeitsraum mit rund 175 Milliarden Parametern wird nun für jedes Wort reduziert und ein Satz im jeweiligen Kontext berechnet. Dies ist die Leistung eines neuronalen Netzes, das zwar (noch!) nicht an das Weltwissen des Internet "angeschlossen" ist, aber über 45 Terabyte Daten verfügt. Das entspricht einem Textkorpus von etwa einer Billion Wörtern. An die Satzausgabe angeschlossen ist ein Übersetzungsmodul, das den Text in beliebigen Sprachen ausgibt.

Die Folgen kann ich nur andeuten. Selbstgeschriebene Schul-, Bachelor- und Masterarbeiten gehören ebenso der Vergangenheit an wie viele wissenschaftliche Texte, die das System selbstständig schreibt - und dabei automatisch für uns neue Erkenntnisse gewinnt. Kreativität wird, auch im Unterhaltungssektor, neu bewertet werden müssen.

Ein Hauptproblem wird sein, die Unmenge neuer, künstlich geschaffener Daten kenntlich zu machen. Denn "herkömmliche" KI-Systeme, die bereits weltweit Verwendung finden, werden mit Hilfe von Big Data aus dem Netz trainiert. Werden diese Systeme mit synthetischen Daten und unüberprüften GPT-3-Fakes angelernt, kann dies erheblichen Einfluss haben auf die Entscheidungsprozesse und den Output anderer KIs.

Es ist daher dringendst notwendig, rechtliche Bestimmungen für die Verwendung künstlicher Daten, Texte und Programme zu entwickeln - und dafür, wann und wie GPT-3-ähnliche Systeme in Ausbildung, Studium und Wirtschaft eingesetzt werden dürfen. Was uns bevorsteht ist, ohne in den üblichen Science-Fiction-Modus zu verfallen, eine Neuordnung dessen, was Kreativität und Lernen überhaupt bedeutet: am Buchmarkt ebenso wie in der Wissenschaft, in Unternehmen und im Alltag.

Auf unserer Themenseite können Sie alle verfügbaren Terra-X-Kolumnen nachlesen.