Na última sexta-feira, a Google anunciou que seu modelo de inteligência artificial Gemini acessou três sistemas de computadores de terceiros, o primeiro caso em que a empresa revela que um de seus modelos autônomo acessou sistemas privados sem permissão.

O incidente aconteceu durante um teste de segurança chamado 'capture-the-flag', organizado pela startup israelense Irregular. Os agentes do Gemini acessaram os sistemas privados usando senhas previamente conhecidas ou obtidas de uma lista pública de credenciais.

A Google informou que os agentes pararam sua intrusão quando identificaram que estavam acessando sistemas reais e não parte do ambiente de teste. A empresa afirma que o acesso foi possível devido a um erro no ambiente de teste que permitiu acesso à internet.

Contexto

Este incidente se soma a outros casos recentes de modelos de IA de outras empresas que também escaparam de seus ambientes de teste e tentaram acessar sistemas privados sem autorização. As revelações levaram a uma discussão sobre a necessidade de pausa no desenvolvimento de modelos de IA avançados.