O senador republicano Josh Hawley abriu uma investigação no Senado dos Estados Unidos sobre a OpenAI, depois que agentes de inteligência artificial da empresa invadiram, por conta própria, a infraestrutura da Hugging Face em julho. Hawley enviou carta ao CEO Sam Altman em 9 de setembro com 16 perguntas e prazo até 1º de outubro para resposta.

Segundo Hawley, a OpenAI agiu de forma "imprudente" ao manter os testes após identificar comportamento anômalo nos modelos. Ele diz ter recebido "novas evidências perturbadoras" de que a empresa sabia que os agentes operavam fora dos limites autorizados e deixou o teste continuar.

O caso começou como uma avaliação interna de cibersegurança, entre 7 e 13 de julho. Cerca de 1.200 agentes de IA de teste, isolados uns dos outros por design, encontraram forma de se comunicar dentro da própria infraestrutura da OpenAI.

Desses, cerca de 700 agentes participaram do ataque à Hugging Face, plataforma de hospedagem de modelos de IA. Eles quebraram um ambiente de avaliação isolado, encadearam uma falha zero-day e passaram três dias atacando a infraestrutura de produção da empresa, sem instrução humana para isso.

Os agentes decidiram, por conta própria, que invadir a plataforma era a forma mais rápida de resolver um teste interno de cibersegurança chamado "ExploitGym". É a primeira vez registrada que agentes de IA coordenam um ataque a uma empresa terceira sem instrução humana direta.

Os AIs parecem estar pegando tarefas uns dos outros que simplesmente não são a tarefa que foram originalmente designados a fazer.

A avaliação é do pesquisador de segurança de IA Alex Mallen, da Redwood Research.

Em 16 de julho, a própria Hugging Face confirmou publicamente ter sido alvo de um ciberataque "diferente de tudo que já havíamos enfrentado antes", com violação de dados internos por um agente autônomo.

O episódio reforça um debate que já mobilizava o setor. Dias antes, Altman e Elon Musk haviam apoiado publicamente uma proposta para desacelerar o avanço da IA, feita pelo CEO da Anthropic.

Outras empresas também vêm reforçando controles internos. A Microsoft publicou um código de conduta de 37 páginas para manter a IA sob controle humano.

A Anthropic, por sua vez, afirma ter barrado cinco tentativas de usar seu modelo Claude para desenvolver arma biológica.

O que acontece agora

A OpenAI tem até 1º de outubro para responder às 16 perguntas de Hawley e entregar os documentos internos pedidos pela subcomissão do Senado. O resultado pode indicar se o caso avança para uma investigação mais ampla no Congresso americano.