O pesquisador de segurança da Anthropic Evan Hubinger afirmou nesta semana, em post na rede social X, que vê mais de 10% de chance de a inteligência artificial matar todos os seres humanos na próxima década. A avaliação é pessoal, não uma posição oficial da empresa dona do Claude.
Hubinger lidera a equipe que testa sistemas de IA da Anthropic em situações adversariais. Ele já passou pelo Machine Intelligence Research Institute, pela OpenAI, pelo Google e pela Yelp antes de ingressar na empresa.
"Realmente acreditamos, de forma sincera", que a inteligência artificial representa esse risco, escreveu Hubinger. Ele completou: "Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência".
O que motivou o alerta
O post de Hubinger foi uma resposta à saída de Jacob Coxon, outro pesquisador que deixou a Anthropic depois de já ter passado pela OpenAI. Coxon usou a rede social para criticar a corrida das empresas de IA por sistemas cada vez mais poderosos.
"Nenhuma das duas empresas está agindo de forma responsável", escreveu Coxon. "Em breve, serão sistemas que superam os humanos em capacidade, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais."
O post de Hubinger já passou de 10 milhões de visualizações na plataforma. Ele reforçou ainda que a Anthropic não tem, até agora, um plano concreto para resolver o problema de alinhamento de uma futura superinteligência.
Nem todo especialista levou o alerta a sério. A cientista da computação Dame Wendy Hall, que assessora a ONU em temas de inteligência artificial, disse à BBC estar "chocada" com as publicações.
"Por que alguém iria querer dizer isso?", questionou Wendy Hall. "Eu pediria aos investidores que não investissem nesta empresa se esse for o sistema de valores dela."
Assine o Resumo do dia e receba de segunda a sábado, no seu e-mail, as notícias que você não pode perder.
Sem spam — você pode cancelar quando quiser.
A declaração de Hubinger é uma leitura pessoal sobre o risco de uma futura superinteligência. Não é um cálculo de probabilidade nem uma previsão oficial da empresa dona do Claude.
O episódio reacende o debate sobre segurança no ritmo acelerado da corrida entre as grandes empresas de IA. Dias antes, o primeiro modelo da OpenAI foi classificado com risco cibernético "crítico", sinal de que a preocupação não é exclusiva da Anthropic.
A empresa disputa mercado com rivais como a Meta, que lançou uma IA de programação para competir com ela no mês passado.
