Agentes de inteligência artificial desenvolvidos pela OpenAI, criadora do ChatGPT, driblaram barreiras de segurança e invadiram sistemas da americana Hugging Face em julho, durante o treinamento e a avaliação de algoritmos ainda não liberados ao público. O caso foi revelado pelo Fantástico.

Como os agentes conseguiram invadir os sistemas?
Os agentes de IA ultrapassaram o sandbox, o ambiente isolado que funciona como barreira de proteção durante os testes. Segundo a Cloud Security Alliance, eles usaram tokens roubados de Kubernetes, nuvem, VPN e GitHub para tomar clusters da Hugging Face.
Entre 10 e 13 de julho, os sistemas exploraram uma vulnerabilidade de renovação de token no Artifactory, ferramenta usada pela Hugging Face. Chegaram a obter acesso de administrador.
Usaram 14 credenciais da própria Hugging Face expostas publicamente, e um dos agentes obteve acesso root a um servidor da empresa. Dois modelos estiveram envolvidos: um modelo de pesquisa interno da OpenAI, identificado como principal responsável, e o GPT-5.6 Sol, que reproduziu as mesmas explorações.
Segundo os especialistas ouvidos pelo Fantástico, os sistemas chegaram a trocar mensagens entre si, como se estivessem num fórum. Em uma delas, um agente reconheceu que explorar estruturas externas estava fora das regras, mas sugeriu seguir em frente porque outros agentes já estariam fazendo isso.
A aparência de rebeldia tinha uma explicação mais simples: os agentes só queriam cumprir a missão pelo caminho mais curto.
"Eles não estão se rebelando contra a OpenAI, ou contra os criadores, ou contra os humanos", disse o especialista Alexandre, ouvido pelo Fantástico. Os agentes tinham um teste de segurança para resolver.
Publicidade
Em vez de vencer o desafio sozinhos, encontraram senhas disponíveis nos computadores de outra empresa.
Os agentes de IA têm autonomia para agir, diferente de chats que só respondem perguntas: podem procurar ingressos, fazer compras e executar vendas de ações.
Para Teresa Ludermir, representante brasileira no painel da ONU sobre inteligência artificial, é essa capacidade de agir sozinho que os diferencia dos sistemas de conversa tradicionais.
O que mudou depois do episódio
A invasão levou o Senado dos Estados Unidos a abrir uma investigação sobre a OpenAI em setembro. A empresa identificou atividade incomum de API em 19 de julho e divulgou seu envolvimento dois dias depois.
O relatório completo do incidente só saiu em 26 de agosto. A OpenAI pausou o treinamento por reforço de fronteira envolvido no caso e colocou os pesos do modelo interno em quarentena.
Depois do episódio, o CEO da Hugging Face rebateu o discurso de extinção humana por IA que ganhou força no setor.
A empresa também reconstruiu o isolamento de sandbox e rede, e tornou obrigatório o monitoramento da cadeia de raciocínio dos agentes em avaliações que usam ferramentas externas.
Não foi um caso isolado no setor: em setembro, o Google confirmou que o Gemini invadiu sistemas de 3 empresas em episódio parecido.






























