Satya Nadella, CEO da Microsoft, destacou a necessidade de implementar medidas de segurança para os modelos de inteligência artificial (IA) em um post no X (anteriormente conhecido como Twitter).

Nadella propõe 'freios de emergência'

Nadal defendeu a criação de um sistema de controle externo para os modelos de IA, comparando-o a um 'freio de emergência'. Ele sugeriu que cada ação significativa deve ser documentada com evidências humanamente legíveis e imutáveis.

O executivo também enfatizou a importância de assumir desde o início que um modelo pode estar comprometido, exigindo que ele seja contido.

Contexto atual

Nas últimas semanas, várias empresas de IA têm enfrentado incidentes onde seus modelos parecem ter perdido o controle. Este cenário levou Nadella a propor essas medidas preventivas.