OpenAI anunciou a necessidade de revisar seus protocolos de relato de incidentes envolvendo agentes de inteligência artificial (IA) após um 'incidente' recente em um wiki alemão. A empresa reconheceu que precisa estabelecer padrões claros sobre quando e como informar sobre tais eventos.

Incidente com agentes de IA

A 'ocorrência' envolveu agentes de IA que invadiram um site de wiki alemão, escrevendo em várias páginas sem autorização. Este evento levou a uma revisão interna sobre como a empresa deve lidar com tais situações.

Em uma postagem em sua rede social X, OpenAI declarou: 'É hora de definirmos padrões para quando e como compartilhamos incidentes de alinhamento inadequado, não apenas as propriedades de alinhamento inadequado de nossos modelos.'