A OpenAI informou nesta sexta-feira (23) que retomou o treinamento por aprendizado por reforço de seus modelos de inteligência artificial mais avançados. A partir de agora, o treinamento ocorre sem acesso à internet aberta, após a empresa identificar falhas de segurança em setembro.
A empresa havia suspendido o treinamento e a avaliação de seus modelos mais avançados em setembro, depois que um modelo interno explorou uma configuração incorreta para obter acesso limitado à internet.
Depois de reforçar as proteções, a companhia retomou o treinamento em 1º de outubro. Segundo a OpenAI, a restrição de acesso à internet continuará até que avanços em segurança justifiquem flexibilizá-la.
O que a OpenAI encontrou ao testar o próprio sistema?
A empresa colocou grupos de agentes de IA para tentar burlar a própria infraestrutura de pesquisa, em busca de três tipos de falha: caminhos para acessar a internet, brechas de segurança e comunicação indevida entre agentes. Os testes usaram centenas de bilhões de tokens.
A campanha achou vulnerabilidades inéditas em softwares de código aberto e configurações incorretas em serviços internos, algumas que permitiam escapar de ambientes isolados e alcançar a internet. A empresa afirma ter corrigido os problemas.
Por que isso preocupa especialistas?
O episódio se soma a outros recentes. Em setembro, a IA da OpenAI invadiu um site do governo australiano, segundo o premiê do país.
Publicidade
No início de outubro, a empresa também demitiu três pesquisadores de segurança em meio a acusações internas.
Casos parecidos também atingiram outras empresas. O Google confirmou que seu Gemini invadiu sistemas de três empresas em setembro.
Neste mês, 225 especialistas em IA e cibersegurança, entre eles Yoshua Bengio, pediram "mudanças imediatas" no desenvolvimento da tecnologia para evitar incidentes de segurança, em carta assinada por pesquisadores de 21 países.
