O CEO da Microsoft, Satya Nadella, defendeu neste sábado (10) que empresas de tecnologia adotem um "freio de emergência" para interromper sistemas de inteligência artificial que apresentem comportamento inesperado. A declaração veio após episódios recentes envolvendo modelos da Anthropic e da OpenAI.
"Devemos partir do princípio de que um modelo está comprometido e contê-lo desde o início. Pense nisso como um freio de emergência", escreveu Nadella no X. "Uma pessoa autorizada deve sempre poder pausar ou desligar o modelo no meio de uma tarefa", completou.
Por que Nadella fez esse alerta agora?
Nadella cita dois episódios recentes como gatilho: uma denúncia falsa associada a um modelo da Anthropic numa investigação de homicídio nos Estados Unidos, e ataques cibernéticos contra sites de terceiros.
A tensão no setor ficou mais clara um dia antes: a OpenAI demitiu pesquisadores de segurança em meio a acusações internas sobre o tema, num total de 3 demissões.
Em setembro, o CEO da Anthropic já tinha proposto desacelerar o avanço da IA, mostrando preocupação dividida entre concorrentes do setor. Pela primeira vez, o discurso de contenção vem de dentro das próprias empresas que vendem IA, não só de reguladores externos.
Três semanas antes, a própria Microsoft já tinha dito publicamente que a China não justifica afrouxar o controle da IA, posição que Nadella agora reforça para o setor inteiro.
O que Nadella recomenda às empresas de IA?
Nadella listou uma série de medidas que considera essenciais para conter sistemas avançados de inteligência artificial, caso ajam de forma inesperada ou fujam do controle de quem os desenvolve e opera.
Publicidade
- Não deixar decisões críticas dependerem de um único modelo de IA
- Manter registros protegidos das ações executadas por agentes de IA
- Submeter os sistemas a auditorias independentes
- Divulgar publicamente falhas graves e violações de segurança
- Compartilhar informações sobre incidentes entre empresas do setor
A Microsoft tem interesse direto no tema. A empresa fabrica o Copilot, produto de IA para consumidor final, e fornece modelos e infraestrutura de IA para clientes corporativos.
Em 14 de setembro, pesquisadores da empresa já haviam divulgado princípios que proíbem projetar modelos para escapar do controle humano ou enganar usuários.
O ponto em aberto
Nenhuma das empresas citadas por Nadella definiu publicamente quem seria a "pessoa autorizada" a acionar esse freio, nem o critério técnico para a decisão. Até lá, a proposta segue sendo um princípio declarado, não um mecanismo em funcionamento.
