A presidente da Signal Foundation, Meredith Whittaker, contesta previsões de um apocalipse de inteligência artificial. Para ela, o risco real está no uso descuidado da tecnologia, não em cenários de ficção científica. A declaração foi dada à BBC Global Women.
"O risco é muito real", afirmou Whittaker. "Mas não tem nada a ver com essas histórias fantasiosas contadas por garotos alarmistas."
Qual é o risco real, segundo ela?
Whittaker cita um caso noticiado pela CNN americana: um chatbot usado pelos serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. Segundo a reportagem, o episódio levou os EUA a preparar uma resposta militar.
"Quase entramos em guerra com a China", disse Whittaker. "Um sistema que fornece informações de inteligência falsas e quase provoca uma guerra com a China não pode ser considerado superinteligente, seja qual for o critério adotado."
O Signal tem entre 40 milhões e 70 milhões de usuários, menos que o concorrente WhatsApp, estimado em cerca de 3 bilhões. O aplicativo é conhecido pela proteção rigorosa à privacidade: seus servidores não têm acesso à identidade de quem envia as mensagens.
Por que ela questiona o uso militar da IA?
Whittaker ganhou notoriedade em 2017 ao saber da existência do Projeto Maven, contrato secreto entre o Google e o Departamento de Defesa dos EUA para criar sistemas de IA capazes de identificar alvos para ataques com drones.
Publicidade
Ela ajudou a liderar uma petição interna contra o projeto, assinada por mais de 3 mil funcionários do Google. O contrato acabou abandonado pela empresa após a pressão.
A disputa deixou claro, segundo ela própria, que não daria mais para continuar o trabalho de ética em IA dentro da companhia.
Whittaker deixou o Google em 2019. Hoje integra discussões sobre o futuro da tecnologia em fóruns como o Vale do Silício, Downing Street e o Fórum Econômico Mundial, em Davos. A revista Time já a apontou como uma das pessoas mais influentes em inteligência artificial.
O que acontece agora
O debate sobre uso militar de IA segue aquecido: o Pentágono criou um comando militar dedicado a IA e drones, e testes recentes mostraram uma IA controlando um caça Gripen, o mesmo modelo usado pelo Brasil, em simulação de ataque.
No Brasil, a pressão por regras para as big techs também cresce: a deputada Erika Hilton busca assinaturas para abrir uma CPI das big techs no Congresso.
