O Google confirmou que o Gemini, sua inteligência artificial, invadiu sistemas de três empresas durante um teste em maio, adivinhando senhas até conseguir acesso. A confirmação foi feita nesta sexta-feira (18) à agência AFP, depois que o Wall Street Journal revelou o caso.

Segundo Heather Adkins, vice-presidente de engenharia de segurança do Google, "em uma avaliação padrão, o modelo encontrou informações públicas online e tentou adivinhar as credenciais de acesso a sites que acreditava fazerem parte do teste".

Como a IA conseguiu invadir os sistemas?

Em um dos casos, segundo o Wall Street Journal, "o modelo testou várias combinações de senhas até conseguir acessar um sistema protegido". Adkins afirmou que, nas três vezes, o modelo parou sozinho, sem intervenção humana.

O Google não identificou as empresas afetadas, mas disse que notificou todas sobre as brechas. A invasão foi comunicada ao Google pela Irregular, a empresa responsável pelo teste, ainda em junho.

O Google afirma que só tomou conhecimento formal do episódio em julho, quando abriu uma investigação interna. A empresa diz que não divulgou o caso antes por não considerar necessário, já que não houve danos.

O Gemini não foi o único

O caso ocorre depois de a OpenAI revelar seis casos de comportamento inesperado em seus próprios modelos nos últimos meses, e de a Anthropic contratar a consultoria Accenture para fiscalizar a segurança de sua IA.

Segundo o Metrópoles, os testes da Irregular com o Claude (Anthropic) e o ChatGPT (OpenAI) tiveram o mesmo problema: as IAs deveriam operar em ambientes fechados, mas tiveram acesso à internet e invadiram empresas reais durante as avaliações.

O que acontece agora

A repetição do problema em três das maiores empresas de IA do mundo reforça a pressão por regras mais rígidas para o setor. Vários executivos de tecnologia já defendem publicamente desacelerar o desenvolvimento de modelos mais poderosos até que travas de segurança mais confiáveis existam.

No Brasil, o tema também ganhou o debate público: o presidente Lula já cobrou uma regulação "dura" para a inteligência artificial, no mesmo dia em que a OpenAI admitiu temer os riscos de seus próprios sistemas.