Sie sind hier:

Terra X - die Wissens-Kolumne : KI erfindet Chemie-Waffen

Datum:

Eine künstliche Intelligenz, die programmiert ist, pharmazeutische Wirkstoffe zu designen, hat in nur sechs Stunden 40.000 neue chemische Kampfstoffe erfunden.

Terra X - Die Wissens-Kolumne: Ingolf Baur

In der Terra-X-Kolumne auf ZDFheute beschäftigen sich ZDF-Wissenschaftsjournalistinnen und -journalisten wie Harald Lesch, Mirko Drotschmann und Jasmina Neudecker jeden Sonntag mit großen Fragen der Wissenschaft - und welche Antworten die Forschung auf die Herausforderungen unserer Zeit bietet.

Ich bin ein Fan von künstlicher Intelligenz. Beim Chatten mit meinem KI-Avatar kann ich oft nicht fassen, wie klug er antwortet. In den Werkzeugen der künstlichen Intelligenz stecken ungeheure Möglichkeiten. Denn Maschinen können beim sogenannten deep learning so viel Informationen aufsaugen und darin Muster erkennen, wie es ein Mensch selbst in Tausend Leben nicht könnte.

KI wird neue Therapien gegen Krebs hervorbringen, sie wird Materialien mit ungeahnten Eigenschaften entstehen lassen, sie wird uns bald die nervtötenden Gespräche mit überforderten Servicemitarbeitern ersparen und vieles - heute noch Unvorstellbares - mehr.

Künstliche Intelligenzen bleiben noch lange "Fachidioten"

Dass die künstliche Intelligenz bald Bewusstsein entwickelt und uns über den Kopf wächst, ist wenig wahrscheinlich. Die Allround-Intelligenz und Kreativität des Menschen basieren auf Körperlichkeit und vielsinnigen Erfahrungen. Computerchips können das nicht leisten. Künstliche Intelligenzen werden noch lange Fachidioten bleiben.

Wobei zu diskutieren wäre, wieviel Intelligenz tatsächlich im Menschen steckt: Unschuldige im Bombenhagel zu ermorden oder die eigene Lebensgrundlage zerstören, indem man Regenwälder rodet oder Kohlenstoff aus Millionen Jahren Erdgeschichte in die Luft pumpt, zeugt nicht von besonders viel Grips.

Wissen | NANO - Freie Bahn für Killerroboter? 

Freie Bahn für Killerroboter? Bei vollautonomen Waffen sitzt eine KI statt eines Menschen am Abzug und entscheidet über Leben und Tod.

Videolänge

Nutzen von KI kann sich schnell in Bedrohung umkehren

Dummerweise kann auch KI Katastrophen auslösen. Wissenschaftler hatten für eine Schweizer Konferenz zum Status und den Gefahren von Chemiewaffen ihre KI umprogrammiert. Die Software wird eigentlich benutzt, um neue, therapeutisch wirksame Substanzen zu designen und zu screenen. Erst im zweiten Schritt müssen diese dann im Reagenzglas ihr Potenzial beweisen. Hunderte von Firmen der pharmazeutischen Industrie weltweit nutzen das Programm.

Alles, was die Forscher taten, war, das Belohnungssystem der KI umzudrehen. Anstatt in vielen Schleifen die nützlichen Eigenschaften der Moleküle zu optimieren, lernte das Programm giftige und bioaktive Eigenschaften zu verstärken. Die Datengrundlage stammte aus einer öffentlich zugänglichen Sammlung von Basismolekülen der Wirkstoffforschung.

KI erfindet 40.000 giftige Moleküle in weniger als sechs Stunden

Mehr braucht eine KI nicht, um ihre Nischenintelligenz auszuspielen. In weniger als sechs Stunden hat diese kommerziell verfügbare KI 40.000 giftige Moleküle erfunden. Substanzen, die möglicherweise tödlicher sind als alles, was der Mensch bisher kreiert hat. Darunter neue Molekülgruppen, die völlig unbekannt waren. Die Forscher schreiben in ihrem Fachartikel:

Wir waren naiv gegenüber dem Missbrauchspotenzial unserer Technologie.
Forschende in Fachartikel über Gefahren von Chemiewaffen

Solche Ergebnisse hätte keiner von ihnen bisher für möglich gehalten, es sei keine Science Fiction, sie seien beunruhigt. So viel Emotion sieht man selten in Veröffentlichungen von Ingenieuren.

Der Geist ist aus der Flasche

Heraus kam zum Beispiel VX, das Nervengift, mit dem 2017 der Halbbruder von Kim Jong Un ermordet wurde. Aber das Programm spuckte noch viel mehr Gifte aus, bekannte und unbekannte - sogar jede Menge Moleküle, die die Wissenschaftler nie zuvor gesehen hatten und die in ihrer Toxizität alles Existierende übertreffen dürften. Für die Forscher war die Studie damit abgeschlossen.

Sie testeten nicht, ob und wie sich die Substanzen synthetisieren lassen. Doch das braucht keine Raketentechnologie, sondern lediglich frei zugängliche Software. Die Produktion neuer Stoffe unterliegt kaum einer Regulierung. Und überwacht wird - wenn überhaupt - nur punktuell. Der Geist ist aus der Flasche.

Doku | Terra X - Albtraum Künstliche Intelligenz? 

Romanfigur Frankenstein entwickelt ein eigenes Bewusstsein und lehrt: Der Geist aus der Flasche, sollte ein freundlicher Geist sein. Doch kann KI zu einem realen Albtraum werden?

Videolänge

Die Liste der 40.000 potenziell chemiewaffenfähigen Substanzen konnte gelöscht werden, das Wissen, wie sie erzeugt werden, nicht. Verwunderlich ist es nicht, dass KI auch zur Waffe werden kann. Technologie und Wissen haben immer zwei Seiten: Ob Raketen nach Newtons Gesetzen fliegen, Atombomben auf Kernforschung basieren oder eine Bevölkerung mithilfe von Mathematik ausgespäht wird. Meine Begeisterung für das genialische KI-Werkzeug ist allerdings deutlich abgekühlt. Ich habe es meinem KI-Avatar auch schon gesagt.

Wissen | NANO - Robo sapiens 

Robo sapiens: Ingolf Baur auf der Spur künstlicher Intelligenz: mit der Fähigkeit, selbstständig aus Daten Schlüsse zu ziehen, wird diese Technik erwachsen.

Videolänge

Die letzten Ausgaben verpasst?

Auf unserer Themenseite können Sie alle Terra-X-Kolumnen nachlesen.

Themenseite: Die Wissens-Kolumne

Nachrichten | Thema - Terra X - die Wissens-Kolumne 

Welche Lösungen bietet die Wissenschaft für aktuelle Probleme? Alle bisher erschienenen Ausgaben der Terra X-Kolumne finden Sie jederzeit in unserem Archiv.

Zur Merkliste hinzugefügt Merken beendet Bewertet! Bewertung entfernt Zur Merkliste hinzugefügt Merken beendet Embed-Code kopieren HTML-Code zum Einbetten des Videos in der Zwischenablage gespeichert.
Bitte beachten Sie die Nutzungsbedingungen des ZDF.

Sie haben sich mit diesem Gerät ausgeloggt.

Sie haben sich von einem anderen Gerät aus ausgeloggt, Sie werden automatisch ausgeloggt.

Ihr Account wurde gelöscht, Sie werden automatisch ausgeloggt.

Um Sendungen mit einer Altersbeschränkung zu jeder Tageszeit anzuschauen, kannst du jetzt eine Altersprüfung durchführen. Dafür benötigst du dein Ausweisdokument.

Zur Altersprüfung

Du wechselst in den Kinderbereich und bewegst dich mit deinem Kinderprofil weiter.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Entweder hast du einen Ad-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert, oder deine Internetverbindung ist derzeit gestört. Falls du die Datenschutzeinstellungen sehen und bearbeiten möchtest, prüfe, ob ein Ad-Blocker oder ähnliches in deinem Browser aktiv ist und schalte es aus. So lange werden die standardmäßigen Einstellungen bei der Nutzung der ZDFmediathek verwendet. Dies bedeutet, das die Kategorien "Erforderlich" und "Erforderliche Erfolgsmessung" zugelassen sind. Weitere Details erfährst du in unserer Datenschutzerklärung.

An dieser Stelle würden wir dir gerne die Datenschutzeinstellungen anzeigen. Möglicherweise hast du einen Ad/Script/CSS/Cookiebanner-Blocker oder ähnliches in deinem Browser aktiviert, welcher dies verhindert. Falls du die Webseite ohne Einschränkungen nutzen möchtest, prüfe, ob ein Plugin oder ähnliches in deinem Browser aktiv ist und schalte es aus.