Wenn es ein neues KI-Modell gibt, geben Firmen gerne damit an, was das
Modell nun alles besser können soll als seine Vorgänger. Nutzer und
Expertinnen können das dann zügig überprüfen. Anders bei Anthropic: Sein
neues Modell Claude Mythos will das Unternehmen nicht veröffentlichen.
Der Grund: Claude Mythos sei zu gefährlich. Nur knapp 50 ausgewählte
Organisationen – darunter Apple, Google und Microsoft – haben im Rahmen
des sogenannten Project Glasswing Zugang dazu erhalten. Das heißt, die
Behauptungen lassen sich nicht unabhängig überprüfen. Können sie
stimmen?
Neustart-Host Henrik Oerding spricht mit ZEIT-Cybersicherheitsexpertin
Eva Wolfangel, die sich die Veröffentlichungen von Anthropic zum neuen
Modell genauer angeschaut hat. Die beiden unterhalten sich darüber,
warum die National Security Agency der USA Mythos offenbar nutzt, obwohl
das Pentagon Anthropic zuletzt als Lieferkettenrisiko eingestuft hat.
Sie diskutieren, wie Anthropic vom Narrativ des »gefährlichsten Modells«
profitieren könnte, warum BSI-Chefin Claudia Plattner von einem
»Paradigmenwechsel« spricht – und weshalb mehr als 80 Prozent aller
Cyberangriffe gar keine ausgefeilte KI brauchen.
Im Rabbithole spricht Eva Wolfangel darüber, wie die Demokratisierung
des Programmierens durch KI neue Sicherheitsrisiken schafft: wenn jeder
eine App bauen kann, aber niemand prüft, ob der Code sicher ist.
Zum Weiterlesen:
- Eva Wolfangel (DIE ZEIT): »Es kann eine gefährliche Waffe sein«
- Haya Schulmann, Michael Waidner (FAZ): Wie bedrohlich ist das neue
KI-Modell Mythos wirklich?
- Maria Curi, Sam Sabin (Axios): NSA using Anthropic's Mythos despite
blacklist
- Davi Ottenheimer: Verification is collapsing trust in Anthropic
- Anthropic: System Card zu Claude Mythos (PDF)
Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern
an neustart@zeit.de.
Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.
Dieser Podcast wird produziert von Pool Artists.
Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.
