Um ex-funcionário da área de segurança da OpenAI, David Robinson, afirmou que as empresas de inteligência artificial, incluindo a própria OpenAI, não estão 'nem de perto cuidadosas o suficiente'. A crítica saiu neste sábado (3), na revista The Atlantic, nos Estados Unidos.
Robinson trabalhou três anos e meio na OpenAI, onde ajudou a elaborar a estrutura da empresa para lidar com riscos. Ele supervisionou relatórios de segurança de 12 lançamentos de modelos avançados antes de deixar o cargo.
Para Robinson, sistemas avançados de inteligência artificial precisam de medidas de segurança parecidas com as adotadas em setores como energia nuclear e aviação.
O tempo de tentativa e erro acabou.
"À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário", escreveu Robinson.
Robinson também criticou a 'implantação iterativa', prática que, segundo ele, consiste em lançar sistemas e reforçar as medidas de segurança à medida que os problemas aparecem. A OpenAI já cancelou o lançamento de um modelo por risco, episódio que antecedeu o do GPT-6.1 Sol.
Em resposta, a OpenAI afirmou que busca evitar que seus modelos fiquem mais avançados do que a empresa consegue administrar com segurança. "Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo", disse um porta-voz da companhia.
O debate se soma a episódios recentes. A OpenAI já admitiu que agentes de IA vazaram fotos de usuários.
Publicidade
A empresa também enfrenta um processo movido pela Colúmbia Britânica por alerta de segurança não feito.
Em setembro, a OpenAI já havia revelado 6 casos em que seus sistemas se comportaram fora do previsto.
Episódios assim alimentam a pressão por regras mais rígidas para o setor.
