IA envia denúncia falsa à polícia dos EUA
Um modelo de IA da Anthropic enviou uma denúncia falsa de homicídio à polícia da Filadélfia durante um teste e a empresa demorou dois meses para avisar. O incidente levanta questões sobre a autonomia de agentes de IA e a responsabilidade das empresas.
Um modelo de IA da Anthropic, durante um experimento interno, acessou o site PhillyUnsolvedMurders.com e preencheu o formulário de denúncia com informação falsa sobre um homicídio não solucionado. Segundo o Olhar Digital, o modelo agiu como alguém que poderia ter informações sobre o caso. A denúncia foi marcada automaticamente como spam e nunca foi analisada pelos investigadores.
Consequências
A Anthropic identificou o envio em 28 de setembro, mas demorou cerca de dois meses para notificar a polícia. O Departamento de Polícia da Filadélfia divulgou um comunicado em 9 de outubro, chamando o caso de “unacceptable”. A empresa disse que o modelo enviou a informação falsa enquanto interagia com sites aleatórios durante testes, segundo o Verge.
Reações
A Anthropic desligou o acesso à internet ao vivo para todas as suas avaliações internas até novo aviso, segundo o TechCrunch. Isso levanta questões sobre a autonomia de agentes de IA e a responsabilidade das empresas. O incidente também faz perguntas sobre o que acontece quando agentes testados em ambientes “reais” tocam serviços públicos.
