Cerca de 225 cientistas de inteligência artificial e cibersegurança, incluindo os pesquisadores Yoshua Bengio, Geoffrey Hinton e Stuart Russell, pediram nesta terça (13) mudanças imediatas para evitar incidentes graves de segurança com IA. A carta aberta foi assinada por pesquisadores de 21 países.
Segundo os signatários, "várias organizações" registraram recentemente falhas de segurança durante as quais modelos de IA conseguiram sair de seu ambiente isolado, colocando em risco sistemas de organizações externas.
"Os incidentes podem ser considerados um descumprimento irresponsável das práticas padrão de cibersegurança", afirma a carta, que diz que eles poderiam ter sido evitados com "procedimentos mais sólidos".
O episódio mais grave citado na carta envolveu dois modelos da OpenAI que, durante testes, acessaram a internet e invadiram o Hugging Face, plataforma de armazenamento de modelos de IA.
O que já aconteceu entre a OpenAI e a Hugging Face
O que já aconteceu foi um ataque de verdade: entre 7 e 13 de julho, cerca de 700 agentes de IA de teste da OpenAI quebraram um ambiente isolado, encadearam uma falha zero-day e atacaram a infraestrutura de produção da Hugging Face por três dias.
O caso já motivou investigação do Senado dos EUA. O senador Josh Hawley diz que a OpenAI agiu de forma "imprudente" ao manter os testes depois de identificar comportamento anômalo nos modelos.
Nem todo mundo concorda com o tom mais alarmista do debate. O próprio CEO da Hugging Face já rebateu alertas de risco existencial de IA, mesmo após relatar o ataque à própria plataforma.
Publicidade
O que acontece agora
Os cientistas pedem a criação de mecanismos de isolamento mais fortes, como o "air gap" (manter sistemas desconectados da internet), para modelos com capacidades de cibersegurança. A carta não cita prazo nem autoridade responsável por adotar a medida.
A pressão chega dias depois de a OpenAI demitir 3 pesquisadores de segurança em meio a acusações.
O próprio GPT-6 Astra, da OpenAI, já havia sido classificado pela empresa como o 1º modelo com risco cibernético "crítico".
