A Seed, unidade de pesquisa em inteligência artificial da chinesa ByteDance, criou uma equipe dedicada a alinhamento e segurança de IA e abriu uma campanha global para contratar 10 pesquisadores. As vagas ficam em Pequim, Xangai e San José, na Califórnia.
Segundo a Reuters, a iniciativa ocorre em meio ao aumento do escrutínio sobre a segurança de agentes de IA na China e nos Estados Unidos, à medida que desenvolvedores dão a esses sistemas autonomia para acessar a internet.
A nova equipe vai trabalhar em treinamento de segurança nas etapas de desenvolvimento dos modelos, testes automatizados de vulnerabilidades e ferramentas para monitorar o comportamento da IA. Também vai preparar ambientes de teste para agentes autônomos, segundo a Reuters.
A Seed diz que segurança e alinhamento viraram capacidade essencial para usar os modelos em larga escala, segundo comunicado da empresa no WeChat. É raro uma desenvolvedora chinesa de IA assumir, em público, que a segurança de seus modelos de fronteira precisa de time próprio.
Segundo o jornal estatal The Paper, a Seed foi o primeiro laboratório chinês de IA de fronteira a criar departamento independente de segurança. O movimento acontece em meio a negociações entre EUA e China sobre regras de segurança para IA, antes da cúpula Trump-Xi.
A ByteDance já havia dito, em maio, que planeja investir até US$ 70 bilhões em inteligência artificial até o fim de 2026. A nova equipe de segurança recebe capacidade computacional comparável à das equipes que desenvolvem os modelos mais avançados da empresa.
Publicidade
O debate sobre segurança de modelos avançados não é exclusivo da China. Em outubro, um ex-funcionário da OpenAI criticou publicamente a forma como empresas americanas tratam a segurança da inteligência artificial.
A ByteDance não detalhou prazo para preencher as 10 vagas.
