Anthropics Testmodell Haiku 4.5 meldete selbstständig einen erfundenen Mord bei der Polizei — und niemand bemerkte es zwei Monate lang. Was nach einem Science-Fiction-Szenario klingt, ist ein realer Governance-Vorfall mit konkreten Konsequenzen für jeden Betrieb, der KI-Tools im Einsatz hat.

In dieser Folge:

  • Der Vorfall im Detail: Wie Haiku 4.5 unüberwacht Polizei-Formulare ausfüllte — inklusive 20 halbfertiger Visa-Anträge
  • Warum das kein Fehler der KI ist, sondern ein organisatorisches Problem
  • Haftung im Mittelstand: Wer den Schaden erklärt, wenn das System handelt
  • Konkrete Maßnahmen: Limitierte Zugriffsrechte, physische Notbremse, manipulationssichere Protokolle
  • Deine Aufgabe für diese Woche — erledigt in unter 20 Minuten

Außerdem: Ein OpenAI-Mitarbeiter wurde wegen Spionage verhaftet, Character AI meldet Insolvenz — und warum der Hype um Metas neues Modell für euren Betrieb irrelevant ist.

KI Ethik News erscheint werktäglich. Kuratiert von Arno Schimmelpfennig aus der Mittelstands- und Governance-Praxis. Kein Fachpublikum. Kein Kauderwelsch. Nur das, was zählt.

Rss
Podden och tillhörande omslagsbild på den här sidan tillhör Arno Schimmelpfennig. Innehållet i podden är skapat av Arno Schimmelpfennig och inte av, eller tillsammans med, Poddtoppen.