A Anthropic, empresa americana de inteligência artificial, obteve a melhor pontuação em um ranking de segurança, mas o setor global de IA falha em lidar com ameaças consideradas "existenciais", conforme um relatório divulgado nesta terça-feira (7) pelo Future of Life Institute, um think tank americano especializado em segurança em IA.

A avaliação abrangeu nove das principais empresas de IA do mundo, que foram classificadas com base em dados públicos e informações fornecidas por elas mesmas. O estudo revela que, apesar dos esforços, as companhias não estão conseguindo enfrentar riscos significativos, como o desenvolvimento de modelos de inteligência artificial geral (AGI), que possuem capacidades semelhantes às humanas.

Critérios de Avaliação

O relatório analisou o desempenho das empresas em seis categorias: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, e compartilhamento de informações. Nenhuma das empresas avaliadas conseguiu alcançar a nota máxima de "A" em qualquer uma das categorias, e a Anthropic foi a única a obter uma nota geral de "C+".

Além disso, o documento destaca que várias empresas que anteriormente se comprometiam a não permitir o uso militar de suas tecnologias estão mudando essa postura. A Anthropic, por exemplo, recebeu críticas por manter "compromissos militares questionáveis". Relatos da imprensa indicam que a tecnologia da empresa foi utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã no último ano, apesar de ter enfrentado uma proibição do Pentágono por questões relacionadas à segurança da IA.

Riscos e Desafios no Setor

O relatório do Future of Life Institute aponta que, embora haja tentativas construtivas por parte das empresas, os esforços são considerados "totalmente insuficientes" para lidar com os riscos emergentes. Dentre os perigos destacados, está o uso indevido da IA em ciberataques ou em atividades que possam causar danos aos seres humanos.

O estudo conclui que, para que o setor de IA possa avançar de forma segura, é essencial que as empresas adotem práticas mais rigorosas de governança e transparência, além de um comprometimento real em evitar o uso militar de suas tecnologias. O alerta do relatório é um chamado à ação para que a indústria reavalie suas prioridades e implemente medidas efetivas de segurança.