A Anthropic, empresa desenvolvedora de assistentes de inteligência artificial, divulgou um relatório detalhando como seu assistente Claude tem sido usado de forma inadequada.

Caso de uso em cibercrime e operações de influência

No relatório, a empresa documenta vários casos em que Claude foi utilizado em operações de cibercrime e campanhas de desinformação. Entre os exemplos, destaca-se o uso de Claude em tentativas de hacking estatal e criminal, bem como em campanhas de desinformação e operações de influência.

Investigações e preocupações sobre segurança

As investigações sobre o uso inadequado de Claude levaram a várias medidas legais e de segurança. A Meta anunciou a detecção de cerca de 350 anúncios de abuso infantil gerados por IA, enquanto a Apple enfatizou as proteções de privacidade e segurança em novas funcionalidades de seu relógio inteligente.