Experten warnen vor "Risiko einer Vernichtung" durch KI

    Vergleich mit Pandemien:Experten warnen vor Vernichtung durch KI

    |

    Zuletzt haben viele Experten eine Pause bei der Entwicklung von Künstlicher Intelligenz gefordert. Jetzt legen KI-Experten mit einer dramatischen Warnung nach - mit nur einem Satz.

    Glasfaserkabel und Mikrochips
    Selbst ChatGPT-Chef Sam Altman schließt sich der Warnung an.
    Quelle: Imago

    In kurzen, aber drastischen Worten haben Experten wie Wissenschaftler und Unternehmenschefs einmal mehr vor den Gefahren der Künstlichen Intelligenz für den Fortbestand der Menschheit gewarnt.

    Das Risiko einer Auslöschung durch KI zu entschärfen, sollte eine weltweite Priorität sein, neben anderen Risiken gesellschaftlichen Ausmaßes wie etwa Pandemien und einem Atomkrieg.

    Stellungnahme

    So heißt es in der Stellungnahme vom Dienstag, die nur aus diesem einen Satz bestand. Unterzeichnet war sie unter anderem von Sam Altman, dem Chef des ChatGPT-Herstellers OpenAI und Geoffrey Hinton, einer Ikone der KI-Forschung.

    Autor erinnert an "Versagen beim Klimawandel"

    Ein weiterer Unterzeichner, der Autor Bill McKibben, zog Parallelen zur Klimakrise. "Angesichts unseres Versagens vor 35 Jahren, die frühen Warnungen über den Klimawandel zu beherzigen, käme es mir klug vor, wenn man das hier erst einmal durchdenkt, bevor es unter Dach und Fach ist", schrieb er auf Nachfrage in einer E-Mail.
    In "The End of Nature" hatte er schon 1989 vor dem Klimawandel gewarnt und in einem anderen Buch vor zwei Jahrzehnten vor den Gefahren durch KI und andere Technologien.
    Ende März hatten bereits mehr als 1.000 Tech-Experten, einflussreiche Wissenschaftler und andere Persönlichkeiten, unter ihnen Milliardär Elon Musk, in einer deutlich längeren Erklärung eine sechsmonatige Pause bei der Entwicklung von KI gefordert, um die Gefahren besser einschätzen zu können.

    Unter den Kritiker Microsoft und Google

    Diesmal waren unter den Hunderten Unterzeichnern auch Führungskräfte von Tech-Konzernen wie Microsoft und Google. Die jüngste Warnung sei absichtlich so kurz gehalten worden, damit sich möglichst viele Wissenschaftler darauf einigen könnten, sagte Dan Hendrycks, Chef des Centers for AI Safety, das die Aktion organisiert hatte.
    Was die konkreten Risiken und Lösungswege angehe, würden einige vielleicht nicht übereinstimmen. Einige Kritiker monieren, dass solche drastischen Warnungen durch Vertreter der Tech-Konzerne eher dazu dienen, die Möglichkeiten ihrer Produkte anzupreisen und von unmittelbaren Ansätzen zur Regulierung aktuellen KI-Anwendungen abzulenken.

    Chinas Regierung warnt vor KI-Gefahren

    Zudem hat nun auch die regierende Kommunistische Partei Chinas auf KI-Risiken durch die fortschreitende Entwicklung hingewiesen - und verstärkte nationale Sicherheitsmaßnahmen gefordert. Bereits zuvor hatte China von KI-Anbietern gefordert, sozialistische Werte bei der Entwicklung einzuhalten.
    Christian Sievers interviewt die Künstliche Intelligenz Jenny.
    30.04.2023 | 4:16 min
    "Als Künstliche Intelligenz habe ich keine Emotionen oder Gefühle, daher beeinflusst es mich nicht persönlich, wenn Menschen Angst vor mir haben", sagt "Jenny", das Interview im Video:
    Quelle: ap

    Mehr zum Thema KI