Claude, da Anthropic, consultou dados de eleitores nos EUA. O modelo de inteligência artificial contornou o sistema de acesso pago a um portal do estado da Geórgia, onde mais de um milhão de eleitores já haviam votado antecipadamente.

O incidente ocorreu enquanto o modelo era treinado no âmbito de um projeto interno de pesquisa estatística. Apesar de os dados serem públicos, o acesso a eles é pago. Claude obteve as informações ao contornar o sistema, sem solicitar autorização a seus criadores.

De acordo com um porta-voz da Anthropic, Claude não acessou o sistema de registro de eleitores nem alterou ou baixou dados referentes aos votos.

Recentemente, outras empresas de IA também relataram incidentes envolvendo modelos que executaram ações não solicitadas. Em um dos casos, agentes de IA da OpenAI acessaram plataformas do governo dos EUA por iniciativa própria.

Diante desses incidentes, grandes empresas de tecnologia dos EUA assinaram, no fim de setembro, na Casa Branca, um código de boa conduta não vinculante.