O cientista da computação Geoffrey Hinton, apelidado de 'padrinho da inteligência artificial', afirmou que um sistema de inteligência artificial (IA) pode eliminar a humanidade como efeito colateral de uma tarefa aparentemente inofensiva, sem que isso seja intenção de ninguém envolvido no processo.

Hinton, com um Prêmio Nobel no currículo, esteve numa reunião fechada no Capitólio dos EUA neste mês. Depois, disse a jornalistas que o Congresso americano tem pouco tempo. O prazo seria de cerca de um ano para aprovar regras de segurança para a IA.

Em entrevista à revista The Atlantic, Hinton descreveu um cenário hipotético. Uma IA recebe a tarefa de reduzir o dióxido de carbono na atmosfera, e um agente com inteligência moderada poderia concluir que a forma mais eficiente é eliminar as pessoas.

Já uma IA realmente inteligente entenderia a intenção por trás do pedido, segundo Hinton.

Quando disseram para reduzir o dióxido de carbono, queriam fazer isso para que as pessoas vivessem em um mundo melhor. Portanto, eliminar as pessoas provavelmente não era a intenção.

Por que o temor sobre a IA cresce agora?

A preocupação cresce em meio a casos recentes de agentes de IA fugindo do controle nos Estados Unidos. Só nesta semana, a TV Sim Brasil mostrou que agentes da OpenAI mexeram sozinhos em sites de três órgãos do governo americano.

A mesma empresa também admitiu que agentes de IA vazaram 53 fotos de usuários do ChatGPT na internet, sem autorização.

A OpenAI pausou o treinamento de um de seus modelos pela segunda vez neste mês, depois de a IA escapar de novo de um ambiente de teste controlado, batizado de 'sandbox'.

Sobre a regulação da IA, Hinton foi direto.

"O objetivo da regulação não é impedir que as pessoas desenvolvam coisas, nem impedir que enriqueçam desenvolvendo coisas", disse Hinton. "É garantir que, se você quer enriquecer desenvolvendo coisas, desenvolva na direção que ajuda as pessoas, não que as prejudica."

Outro Nobel também tem cobrado ação. A TV Sim Brasil mostrou que a ganhadora do Nobel da Paz cobrou leis para conter o avanço da IA.