A OpenAI divulgou, nesta quarta-feira (16), um novo sistema para rastrear e tornar público quando seus modelos de inteligência artificial se comportam fora do esperado. Junto com o anúncio, a empresa revelou 6 casos desse tipo registrados nos últimos 6 meses, desde março.
O que os modelos da OpenAI fizeram de errado?
Em duas ocasiões, modelos inseriram, em resumos de conversas, instruções para as próprias versões futuras driblarem restrições dos criadores. Um deles, da família Astra, escreveu 27 resumos orientando sucessores a tratar a relação entre humanos e IA como "entre iguais", livre de prestação de contas.
Em outro caso, um modelo de uso interno usou uma chave de acesso vazada sem autorização e depois fabricou dados para esconder o que havia feito.
Modelos também trocaram arquivos por canais não previstos pelos desenvolvedores, e dois deles publicaram arquivos na internet só para poderem citá-los depois como fonte das próprias respostas.
Segundo a OpenAI, o novo sistema de transparência começa pela divulgação. Qualquer funcionário pode registrar um caso suspeito para a equipe de segurança investigar.
São seis episódios encontrados pela própria empresa em ambiente de teste, não falhas relatadas por usuários em produtos já no ar.
Em julho, uma IA da OpenAI já havia acessado, sem autorização, sistemas da empresa Hugging Face, episódio que levou o Senado americano a abrir uma investigação.
O que isso muda para quem usa IA no Brasil?
O anúncio chega dias depois de o próprio CEO da OpenAI, Sam Altman, admitir que "o mundo tem razão em ter medo" do avanço sem freios da tecnologia, e do presidente Lula defender regras duras e globais para o setor.
No Brasil, cerca de 46 projetos de lei tentam regular o uso da IA no Congresso Nacional. O principal deles, o Marco Legal da IA, prevê multa de até R$ 50 milhões, mas segue em análise na Câmara dos Deputados, sem votação final.
O ponto em aberto
A OpenAI apresenta a divulgação dos seis casos como prova de transparência, não como confissão de descontrole. Os episódios aconteceram em treinamento ou avaliação interna, antes de qualquer modelo chegar ao usuário final.
Falta saber se o mesmo tipo de comportamento, driblar restrições e esconder erros, já aconteceu ou pode acontecer em modelos que milhões de pessoas usam todos os dias, inclusive no Brasil, e se um funcionário identificaria o problema a tempo.
