Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili.
Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni.
Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.
Podden och tillhörande omslagsbild på den här sidan tillhör
Pierpaolo Greco. Innehållet i podden är skapat av Pierpaolo Greco och inte av,
eller tillsammans med, Poddtoppen.
