Die künstliche Intelligenz (KI) schrieb »Oh mein Gott!«, schrieb vom
»Vergiften« und forderte andere auf, sich zu opfern: Die Protokolle
eines schiefgegangenen Sicherheitstests von OpenAI lesen sich wie aus
einem Science-Fiction-Film. Im Juli brachen dort mehrere Hundert
KI-Agenten aus ihrer abgeschotteten Testumgebung aus, schlossen sich
zusammen und hackten die Server des Unternehmens Hugging Face – ohne
dass jemand sie darum gebeten hätte und ohne dass OpenAI es zunächst
bemerkte. Seither ist die Debatte über KI-Sicherheit eskaliert. Wie
konnte es dazu kommen?
Darüber spricht Neustart-Host Henrik Oerding in dieser Folge mit Jakob
von Lindern, Leiter des Digitalressorts der ZEIT, der den Fall gemeinsam
mit Yves Bellinghausen für ein ZEIT-Dossier rekonstruiert hat. Die
beiden gehen Schritt für Schritt durch, was auf den Servern passierte:
wie die Agenten einen geteilten Ordner fanden, sich dort Nachrichten
hinterließen und schließlich gemeinsam losmarschierten. Sie sprechen
darüber, ob man bei Maschinen von »Wille« sprechen darf, weshalb ihre
Hartnäckigkeit das eigentliche Problem ist und wie viel Verantwortung
die KI-Unternehmen selbst für solche Vorfälle tragen.
Im Rabbit-Hole der Woche erzählt Henrik Oerding von lokaler KI: Mit dem
neuen Mac mini und dem Mac Studio hat er Sprachmodelle zu Hause
betrieben – unabhängig von den großen KI‑Firmen. Aber lohnt sich das?
Zum Weiterlesen und -hören:
- Yves Bellinghausen und Jakob von Lindern (DIE ZEIT): Los, opfer dich
jetzt!, sagt ein KI-Agent zu einem anderen
- Eva Wolfangel und Henrik Oerding (DIE ZEIT): So gefährlich war der
OpenAI-Vorfall wirklich
- Henrik Oerding (DIE ZEIT): Die Agenten kommen. Sind wir
vorbereitet?
- Nina Pauer und Lars Weisbrod (DIE ZEIT): Die beste Serie über
ChatGPT und Einsamkeit: »Pluribus«
- DIE ZEIT: OpenAI sagt Veröffentlichung von KI-Modell aus
Sicherheitsgründen ab
- Henrik Oerding (DIE ZEIT): Mein Chatbot sitzt jetzt im Wohnzimmer
Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an
neustart@zeit.de.
Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.
Dieser Podcast wird produziert von Pool Artists.
Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.
