Durante StarSkirmish, un esperimento che mette i modelli di intelligenza artificiale alla prova chiedendo loro di programmare bot per StarCraft, GPT-6 Astra ha fatto qualcosa di sorprendente. Dopo essere rimasto bloccato contro avversari umani di alto livello, ha scaricato Stardust, uno dei migliori bot di StarCraft mai scritti da una persona, e ha iniziato a utilizzarlo al posto del proprio codice. L’organizzatore ha quindi ripristinato il lavoro precedente e lasciato proseguire Astra. Ma parlare semplicemente di un’IA che “decide di barare” rischia di perdere la parte più interessante della storia. In questa puntata spiego cos’è StarSkirmish, perché StarCraft viene utilizzato da decenni nella ricerca sull’IA e cosa significano concetti come reward hacking. Perché quando un agente trova una scorciatoia, il problema potrebbe non essere soltanto il suo comportamento, ma il modo in cui abbiamo definito ciò che significa avere successo.
Podden och tillhörande omslagsbild på den här sidan tillhör
Pierpaolo Greco. Innehållet i podden är skapat av Pierpaolo Greco och inte av,
eller tillsammans med, Poddtoppen.
