O CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no avanço dos modelos mais poderosos de inteligência artificial até que existam salvaguardas mais robustas. Para especialistas ouvidos pelo InfoMoney, porém, o risco mais concreto da IA já está em curso, e não é o apocalipse.

Sam Altman, CEO da OpenAI, admitiu que a empresa considera desacelerar o desenvolvimento de IA de ponta. O cientista-chefe da OpenAI, Jakub Pachocki, publicou um alerta dizendo que as empresas deveriam coordenar uma desaceleração "conforme necessário".

As declarações derrubaram ações de empresas de IA e reabriram o debate sobre supervisão da tecnologia. Mas, segundo especialistas consultados, os riscos mais palpáveis hoje estão em fraude digital, cibersegurança e automação de ataques.

Estamos vendo um desenvolvimento acelerado da IA. Isso é fato. Agora o que vai acontecer entra no âmbito da especulação.

A avaliação é de Leonardo Tomazeli Duarte, professor titular da Unicamp e coordenador científico do Centro de Pesquisa Aplicada em Inteligência Artificial BI0S. Para ele, há fundo de verdade nos alertas de ex-funcionários do setor, mas parte do debate também tem espetacularização.

"A curto e médio prazo, os riscos mais concretos estão relacionados a vieses, alucinações e, principalmente, à segurança cibernética", diz Eliomar Araújo, coordenador de projetos do Centro de Excelência em Inteligência Artificial da UFG.

Do lado prático, o custo da fraude despencou. "A IA reduziu drasticamente o custo de produção de fraudes", afirma Sachin Kulkarni, cofundador e CTO da Oscilar, empresa de gestão de risco para bancos e fintechs.

A Oscilar acompanhou uma campanha fraudulenta que usou identidades sintéticas para criar milhares de sessões falsas em duas semanas, enganando sistemas de biometria comportamental sem ser detectada pelos mecanismos tradicionais de verificação.

O volume de phishing dá a medida do problema. A Kaspersky bloqueou 142 milhões de cliques em phishing só no 2º trimestre de 2025, depois de impedir 67 milhões de ataques em 2024.

Hoje, sistemas com IA identificam mais de 1.000 páginas de phishing por dia.

No Brasil, o problema já aparece em deepfakes, que se tornaram a maioria do uso de IA na própria campanha eleitoral. No setor bancário, entre 5% e 7% das perdas classificadas como inadimplência podem, na verdade, ser fraude não detectada.

Enquanto o debate sobre desacelerar a IA avança lá fora (a própria Anthropic contratou a Accenture para fiscalizar a segurança de seus próprios modelos), o Brasil segue como um país digitalizado, mas pouco participante do desenvolvimento da tecnologia.

O ponto em aberto

O desafio brasileiro não é frear a IA, e sim decidir que papel o país quer ocupar nela. Hoje, o Brasil depende de ferramentas de segurança e controle desenvolvidas fora do país.

A Microsoft, por exemplo, criou um código de 37 páginas para manter a IA sob controle humano. A pergunta que fica é se o Brasil vai continuar só consumindo essas soluções ou passará a produzir as próprias.