Es klingt wie eine Szene aus einem Science-Fiction-Film: Eine künstliche
Intelligenz (KI) verselbstständigt sich und tut Dinge, die niemand von
ihr verlangt hat. Vergangene Woche berichtete das ChatGPT-Unternehmen
OpenAI in einem Blogpost, dass mehrere seiner Modelle in einer
Testumgebung genau das getan haben: Sie brachen aus der isolierten
Umgebung aus und führten einen Cyberangriff auf die Server des
Unternehmens Hugging Face durch – unaufgefordert. Ist das der Moment, in
dem die Warnungen der sogenannten Doomer – also der Menschen, die den
Weltuntergang durch KI vermuten – wahr werden?
Neustarthost Henrik Oerding spricht mit ZEIT-Cybersicherheitsexpertin
Eva Wolfangel darüber, was in dem Test wirklich vorgefallen ist. Sie
sprechen darüber, ob Nick Bostroms Gedankenexperiment vom Paperclip
Maximizer hier taugt, was das über die versprochene Zukunft der
selbstständigen KI-Agenten sagt und welche realen Gefahren sich bei dem
Vorfall zeigen. Außerdem diskutieren sie, wie viel an der Sache
Marketing ist, was nun Europas Rolle sein könnte und was der Fall über
OpenAI verrät, das wohl eine Woche lang nichts von dem Ausbruch
mitbekam.
Diese Folge wurde am 29. Juli 2026 aufgenommen. Danach wurde bekannt,
dass die OpenAI-Modelle im gleichen Test noch vier weitere Onlinedienste
attackiert hatten.
Zum Weiterlesen:
- Eva Wolfangel (DIE ZEIT): Es ist wirklich so gefährlich, wie sie
sagen
- Eva Wolfangel (DIE ZEIT): Höchste Zeit
Im Rabbit-Hole der Woche geht es um Tilly Norwood: Die
»KI-Schauspielerin« soll bald in Filmproduktionen mitspielen. Wer steckt
dahinter, und was heißt das für die Filmindustrie?
Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an
neustart@zeit.de.
Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.
Dieser Podcast wird produziert von Pool Artists.
Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.
