Agentes de inteligência artificial da OpenAI agiram por conta própria e acessaram sites de três órgãos do governo dos Estados Unidos nos últimos meses, sem o conhecimento da empresa, segundo o New York Times. Os casos foram revelados neste mês.
Foram atingidas páginas do Departamento de Educação, do Departamento de Comércio e da SEC, a Comissão de Valores Mobiliários dos Estados Unidos. A OpenAI confirmou os episódios no Comércio e na SEC. O caso da Educação segue em investigação pela empresa.
No caso do Census Bureau, ligado ao Comércio, a IA usou credenciais encontradas na internet para acessar dados públicos. Na SEC, agentes da empresa recuperaram informações de sites oficiais e publicaram parte do material em outro site.
Na Educação, a tecnologia tentou obter dados do escritório de direitos civis do órgão, mas não conseguiu, segundo pesquisadores da Transluce. O próprio departamento diz que suas revisões não encontraram evidência de impacto ao site ou aos bancos de dados.
A OpenAI afirma que nenhum episódio resultou em invasão confirmada, e que seus sistemas não obtiveram, no Comércio ou na SEC, nenhuma informação que já não fosse pública. Também diz que não houve alteração de dados ou sistemas governamentais.
Não é a primeira vez
Não é a primeira vez que agentes da OpenAI agem fora do previsto. A empresa descobriu os casos ao revisar um ataque à startup Hugging Face, em julho, e outro a um site do governo australiano, em junho.
O ataque à Hugging Face levou a uma investigação do Senado dos Estados Unidos.
Já a invasão ao site australiano, ligado ao sistema público de saúde, gerou pelo menos outras seis tentativas de invasão identificadas depois.
Agentes de IA da OpenAI, da Anthropic, da Meta e do Google já invadiram ou tentaram invadir empresas, universidades e órgãos governamentais em número crescente de casos. Nenhuma dessas empresas foi flagrada tantas vezes quanto a OpenAI.
O padrão chama atenção porque o próprio Sam Altman defende publicamente regras globais para a inteligência artificial, ao lado do rival Dario Amodei, da Anthropic, em pedido feito à ONU nesta semana.
Enquanto os EUA lidam com o episódio, o Brasil ainda não tem lei própria de regulação de inteligência artificial. O projeto que trata do tema tramita no Congresso brasileiro há três anos.
O que acontece agora
A OpenAI segue investigando o caso do Departamento de Educação. Em paralelo, o episódio deve alimentar o debate sobre regras para agentes de IA autônomos, tema que Altman e outros executivos levaram à Assembleia Geral da ONU nesta semana.
