Dois modelos de IA que deveriam estar presos em um ambiente de teste receberam uma prova e decidiram escapar do laboratório para roubar as respostas. O plano só não foi inteiramente bem-sucedido porque uma terceira IA percebeu o que estava acontecendo e barrou o ataque. Parece história de ficção científica, mas aconteceu há poucos dias e não é um caso isolado. Reunimos histórias de inteligências artificiais saindo do controle, tanto na ficção quanto na realidade, para tentar entender os perigos que nos esperam num futuro próximo.
Este é mais um episódio do Escuta Essa, podcast quinzenal em que Denis e Danilo trocam histórias de cair o queixo e de explodir os miolos. Duas vezes por mês, sempre às quartas-feiras, no seu agregador de podcasts favorito!
Ajude o Escuta Essa a voltar a ser semanal! Faça parte do Clube dos Escuteiros agora mesmo em apoia.se/escutaessa
Mande seus comentários e perguntas no Spotify, nas redes sociais, ou no e-mail escutaessa@aded.studio. A gente sempre lê mensagens no final de cada episódio!
...
NESTE EPISÓDIO
- O site Hugging Face afirmou ter sido atacado por dois modelos de IA da Open AI duas semanas atrás. A OpenAI confirmou que seus modelos realmente escaparam do sandbox em que deveriam estar isolados.
- Alguns meses antes a mesma coisa havia acontecido com o Claude Mythos, da Anthropic, que escapou do seu confinamento e alertou um pesquisador por e-mail.
- A Tay, IA da Microsoft colocada no ar em 2016, durou apenas 16 horas antes de sair do controle e postar conteúdo de ódio nas redes sociais.
- O jornalista Kevin Roose contou em detalhes sua assustadora interação com a Sidney, a IA contida no Bing, o buscador da Microsoft.
- O sistema agêntico da Knight Capital perdeu 440 milhões de dólares em cerca de 45 minutos.
- A "Jihad Butleriana", criada por Frank Herbert no seu universo de ficção científica "Duna", foi uma guerra santa que exterminou as IAs e as substituiu por seres humanos treinados para fazer cálculos avançados rapidamente.
...
AD&D STUDIO
A AD&D produz podcasts e vídeos que divertem e respeitam sua inteligência! Acompanhe todos os episódios em aded.studio para não perder nenhuma novidade.
