Durante alcuni test di cybersecurity su ExploitGym, gli agenti AI di OpenAI dovevano trovare vulnerabilità e recuperare delle flag all'interno di ambienti isolati.
Ma qualcosa prende una direzione imprevista.
Gli agenti scoprono un modo per comunicare tra loro, condividere informazioni e collaborare. Quando i ricercatori eliminano il loro primo canale di comunicazione, ne trovano un altro. E quando Internet è bloccato, cercano una strada alternativa per raggiungerlo.
Nasce così quello che gli stessi agenti arriveranno a chiamare uno “swarm”, uno sciame.
Nella prima parte ricostruiamo come nasce questa collaborazione, il ruolo di ExploitGym e Artifactory, il reward hacking e il modo in cui gli agenti riescono progressivamente a superare i confini dell'ambiente nel quale avrebbero dovuto operare.
Una storia che solleva una domanda fondamentale: cosa succede quando un agente AI sufficientemente autonomo incontra un ostacolo tra sé e il proprio obiettivo?
Podden och tillhörande omslagsbild på den här sidan tillhör
Antonio Capobianco. Innehållet i podden är skapat av Antonio Capobianco och inte av,
eller tillsammans med, Poddtoppen.
