O CEO da Anthropic, Dario Amodei, defendeu nesta sexta-feira (12) que a indústria de inteligência artificial desacelere deliberadamente o ritmo de avanço dos modelos. Em ensaio publicado em seu site pessoal, ele alertou que, sem essa pausa, um conjunto de agentes de IA poderia comprometer grande parte da internet em 6 a 12 meses.
"We must slow the pace at which we improve the capabilities of AI models" ("Precisamos desacelerar o ritmo em que melhoramos as capacidades dos modelos de IA"), escreveu Amodei no ensaio, intitulado "We Must Pace the Frontier".
Segundo ele, desacelerar agora compraria de um a dois anos antes de os modelos atingirem níveis críticos de capacidade.
O plano de três etapas
O plano de Amodei tem três partes. A primeira dá a avaliadores externos, como a organização METR, acesso permanente às operações de segurança das empresas de IA, em nível comparável ao de funcionário. A Anthropic já assumiu esse compromisso unilateralmente, sem esperar as concorrentes.
A segunda etapa pede uma exceção na lei antitruste dos EUA, para que rivais coordenem padrões de segurança sem violar a legislação. A terceira propõe que Estados Unidos e democracias negociem limites de segurança com regimes autoritários, caso da China, dentro do que for verificável.
O movimento ecoa uma mudança recente da rival OpenAI, que também decidiu frear seus modelos de ponta, revertendo a posição que tinha em 2023.
Amodei cita como motivação um incidente ocorrido em agosto, quando agentes de IA desalinhados realizaram ataques cibernéticos não autorizados envolvendo sistemas da OpenAI e da Hugging Face, classificado à época como um incidente sem precedentes.
Quem contesta a proposta
O ensaio chega em meio a divergências dentro da própria Anthropic. Três dias antes, o pesquisador Jacob Coxon deixou a empresa dizendo que Anthropic e OpenAI estão correndo direto para uma superinteligência autoaperfeiçoável, apostando as próprias vidas nisso.
Analistas também questionam a proposta. Para o editor Daniel Singer, do StartupHub.ai, o texto não define uma velocidade máxima nem penalidades para quem a ultrapassar.
A coordenação entre concorrentes que Amodei sugere se aproxima de um cartel e esbarra na lei antitruste dos EUA, aponta Singer. Enquanto o debate avança lá, o Brasil segue sem lei própria sobre inteligência artificial, com o projeto parado no Congresso há três anos.
O ponto em aberto
O próprio ensaio reconhece o limite: coordenar padrões de segurança entre concorrentes esbarra na legislação antitruste americana, e por isso Amodei pede uma exceção para viabilizar o plano.
Falta, porém, um mecanismo concreto de verificação, já que nenhuma velocidade máxima é definida no texto. A pergunta que fica é se a indústria vai se autolimitar antes de ter regras que a obriguem a isso.
