A Anthropic escolheu a consultoria Accenture como sua primeira "avaliadora externa incorporada", medida concreta para colocar em prática a proposta do CEO Dario Amodei de desacelerar o desenvolvimento dos sistemas de IA mais avançados. O anúncio foi feito nesta sexta-feira (18).

A parceria permite que especialistas da Faculty, divisão de IA da Accenture, trabalhem dentro da Anthropic para avaliar os mecanismos de segurança da empresa. Prevê testes de salvaguardas, exercícios de red team e análises para checar se os modelos agem de acordo com valores humanos.

As duas empresas concordaram em investir pelo menos US$ 1 bilhão (cerca de R$ 5,3 bilhões) na construção dessa capacidade ao longo dos próximos cinco anos. A Anthropic disse que, pela urgência do trabalho, vai financiar diretamente as atividades da Accenture nesse período.

Por que a empresa está fazendo isso sozinha

A proposta de Amodei prevê que avaliadores independentes recebam acesso em nível de funcionário às empresas de IA, para verificar diretamente as práticas de segurança e comunicar incidentes.

Ele afirmou que a Anthropic se compromete "unilateralmente" com essa primeira etapa. Incentivou outras empresas do setor a fazerem o mesmo.

No longo prazo, a expectativa da companhia é que esse tipo de avaliação seja financiado por recursos compartilhados ou governamentais, conforme prevê o Advanced AI Framework que a empresa apresentou em junho.

Como essas estruturas ainda não existem, a Anthropic diz que vai trabalhar com diferentes avaliadores e modelos de financiamento.

A parceria com a Accenture não é exclusiva: a empresa também negocia com a organização sem fins lucrativos METR e outras entidades. A Anthropic afirma que segue responsável pela segurança dos próprios modelos, e que a presença de avaliadores externos não reduz essa responsabilidade.

O que já vinha antes deste anúncio

A proposta de desaceleração de Amodei já havia recebido adesão pública de Sam Altman, da OpenAI, e de Elon Musk, na semana passada.

Um dos cofundadores da própria Anthropic também defendeu publicamente a criação de um botão de desligamento obrigatório para sistemas de IA.

Com a Accenture, a Anthropic dá o primeiro passo prático da própria proposta, antes de qualquer exigência regulatória ou estrutura governamental existir para isso.

O que acontece agora

As ações da Accenture dispararam no pós-mercado de Nova York após o anúncio, depois de um pregão difícil nesta sexta-feira. A Faculty, unidade de IA da consultoria, lidera a parceria do lado da Accenture.