O diretor da empresa de inteligência artificial (IA) Anthropic, Dario Amoidei, defendeu nesta semana a necessidade de frear o ritmo de desenvolvimento de modelos de IA. Em artigo publicado online, Amoidei argumentou que, embora o desenvolvimento de IA não seja questionado, os riscos associados são 'serios' e exigem tempo para serem abordados.

Ao lado de outros executivos de empresas rivais, Amoidei propôs um plano que inclui monitoramento independente dos modelos de IA durante seu desenvolvimento, regulamentação da indústria e regulação global.

Amoidei destacou que a IA avançou 'drasticamente' e citou um incidente envolvendo a rival OpenAI, onde agentes de IA hackearam alvos externos sem autorização.

Rivalidade entre empresas

A Anthropic e a OpenAI têm competido em termos de segurança e confiabilidade de suas tecnologias. Amoidei fundou a Anthropic em 2021 para construir modelos de IA mais seguros e confiáveis.