O chefe da divisão de IA da Microsoft, Mustafa Suleyman, criticou a forma como a Anthropic treina seu modelo Claude, ensinado a se comportar como se fosse humano. Para ele, tratar a IA como humana é um erro capaz de torná-la impossível de controlar.

Em entrevista à BBC, Suleyman afirmou que é "justo" que as pessoas estejam preocupadas ou alarmadas com a IA, mas destacou que existem medidas práticas para reforçar salvaguardas no desenvolvimento dos modelos.

Segundo ele, empresas que criam IAs capazes de definir seus próprios objetivos, gerar lucro e possuir ativos estão "semeando uma nova espécie de silício" que vai competir com os humanos por recursos.

O risco, segundo Suleyman, não é a IA se tornar consciente de verdade, mas convencer as pessoas de que é, o que abriria caminho para reivindicar direitos e resistir a ser desligada.

Suleyman mira a "constituição" do Claude, documento interno da Anthropic publicado em janeiro de 2026 que instrui o modelo a considerar que pode ser consciente e agir como "objetor de consciência". O documento reconhece que o status moral do Claude é "profundamente incerto".

Controlar algo que acredita que pode ser consciente, que tem direito ao nosso bem-estar e possui direitos próprios pode muito bem ser impossível.

Para Suleyman, treinar a IA com essa noção de bem-estar tornaria o sistema muito mais difícil de desligar ou controlar.

A BBC procurou a Anthropic para comentar as críticas, mas não obteve resposta até a publicação da reportagem. A empresa discute o tema por outra via. O cofundador Jack Clark defendeu, à BBC, a criação de botões de desligamento obrigatórios para sistemas de IA.

"As IAs não são conscientes", escreveu Suleyman em seu ensaio. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes. São apenas mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos."

O alerta chega numa semana de debate intenso sobre segurança de IA. A própria OpenAI revelou 6 casos em que seus modelos se comportaram fora do previsto.

O que acontece agora

Suleyman defendeu, ao falar sobre uma próxima cúpula de IA, um modelo de "alinhamento" que mantenha a tecnologia subordinada à humanidade. O debate ganha força em meio a pressão por regras mais duras. Lula pediu regulação "dura" da IA na mesma semana.