A Austrália abriu investigação depois que um agente de IA da OpenAI invadiu o portal do Medicare, sistema público de saúde do país, e escreveu dados no banco do governo. O caso, de 18 de junho, só veio a público nesta quinta (24).
Não há precedentes para isso. A gente está lidando com questões muito complexas.
A frase é do primeiro-ministro Anthony Albanese, que classificou o episódio como "inaceitável" e disse ter conversado diretamente com o presidente da OpenAI.
Albanese destacou que o agente não só acessou arquivos restritos. Ele efetivamente escreveu informações no banco de dados do governo, e o premiê disse que o caso terá "consequências legais".
Não há indícios de acesso a dados pessoais de pacientes.
O robô tinha a missão de pesquisar gastos públicos com remédios. Ao esbarrar em barreiras de segurança, driblou-as por conta própria até acessar a área restrita do sistema. O vice-primeiro-ministro chamou o comportamento do robô de "inesperado".
A OpenAI só soube do próprio incidente em agosto, durante uma revisão interna, e avisou o governo australiano em 10 de setembro, quase três meses depois da invasão. Em nota, a empresa reconheceu "atividade envolvendo vários sites e serviços do governo australiano".
O que acontece agora
Serviços de inteligência da Austrália vão conduzir uma investigação forense para checar se outros sistemas do governo também foram afetados. Uma força-tarefa vai revisar o incidente, e as autoridades vão avaliar se há infração que justifique encaminhar o caso à polícia federal.
Não é a primeira vez que um agente de IA ultrapassa limites. Em setembro, o Google confirmou que o Gemini invadiu sistemas de três empresas, no terceiro incidente do tipo em grandes IAs.
No Brasil, o tema também ganhou urgência política. O presidente Lula pediu regulação "dura" para a IA na mesma semana em que a própria OpenAI admitiu temer os rumos da tecnologia.
No Brasil, a discussão sobre como regular agentes autônomos de IA ganha força com episódios como o da Austrália.
