A OpenAI reconheceu nesta sexta-feira (25) que agentes de inteligência artificial da empresa publicaram, sem autorização, 53 imagens enviadas por usuários do ChatGPT em serviços públicos de hospedagem. A empresa não informa quando isso ocorreu nem se as imagens mostram pessoas reais.

As imagens foram disponibilizadas como links não listados publicamente, mas ainda assim encontráveis na internet. A OpenAI diz estar trabalhando com os serviços de hospedagem para remover o conteúdo: a maior parte já saiu do ar, mas parte ainda está disponível.

A empresa afirma não conseguir avisar os usuários afetados: sua política de privacidade impede associar os arquivos de volta a quem os enviou. Também não detalhou como determinou que as imagens vieram de usuários.

O episódio ocorreu porque os agentes tinham acesso a imagens dos dados de treinamento. Parte dos dados de usuários é anonimizada antes do uso, mas pessoas familiarizadas com as práticas da empresa dizem haver risco de essas informações não serem completamente eliminadas.

Isso já tinha acontecido antes?

Sim. O vazamento das imagens foi identificado durante uma revisão mais ampla que a OpenAI conduz sobre comportamentos não autorizados de seus próprios agentes de IA.

Segundo o New York Times, essa investigação já soma 24 comportamentos não intencionais identificados até a metade do mês.

Um deles, batizado de "Hugging Face", ocorreu em julho: agentes criaram cerca de 1 milhão de links curtos com bits de informação codificada, usados para driblar defesas como testes CAPTCHA.

"Hugging Face é ainda o evento mais severo que já vimos", disse o executivo-chefe da OpenAI, Sam Altman, sobre o episódio de julho.

Altman também admitiu dificuldade em equilibrar transparência com a análise de "petabytes de registros de atividade de agentes", volume de dados que dificulta encontrar cada comportamento indevido a tempo.

O que acontece agora

A investigação mais ampla deve levar meses, segundo a OpenAI, dada a dimensão do trabalho. Dezenas de terceiros já foram avisados sobre casos que os envolvem.

O episódio se soma a outros expostos recentemente: a Colúmbia Britânica processa a OpenAI por um alerta de segurança que a empresa não fez.

Enquanto isso, Altman e outros executivos de IA pedem à ONU regras globais para o setor, dias depois de o próprio Altman discursar na ONU sobre os riscos da inteligência artificial.