Quatro estudantes negros de uma escola de Maryland, nos Estados Unidos, processam a empresa de inteligência artificial Omnilert depois que o sistema de vigilância dela confundiu um pacote de Doritos com uma arma de fogo e levou a polícia a algemá-los.

O caso aconteceu em outubro de 2025, após um treino de futebol americano na Kenwood High School. O técnico havia distribuído pacotes de Doritos aos jogadores.

Taki Allen, então no 2º ano do ensino médio, pegou alguns pacotes para dividir com os colegas perto das mesas de piquenique.

Seis viaturas chegaram com as luzes ligadas enquanto o grupo esperava carona. Os policiais sacaram as armas e ordenaram que os adolescentes levantassem as mãos, antes de obrigá-los a se ajoelhar, algemá-los e revistá-los.

Por que a IA confundiu o lanche com arma

O software da Omnilert classificou o pacote de salgadinhos como arma de fogo com 90% de confiança. A ferramenta analisa imagens de câmeras de segurança em busca de armas, segundo o processo movido pelos estudantes.

O erro ecoa outros tropeços de sistemas automatizados: no Brasil, a biometria facial também já gerou 3,6 milhões de registros ligados a fraude, mostrando como falhas de reconhecimento têm efeito real sobre pessoas.

O Escritório do Inspetor-Geral de Educação de Maryland investigou o episódio depois e não encontrou indícios de viés racial. Segundo a WMAR-TV, o órgão concluiu que o sistema identificou como ameaça a posição da mão de um dos adolescentes ao segurar o pacote.

Publicidade

O relatório também apontou falhas no sistema da Omnilert. O caso reacende o debate sobre os limites da vigilância automatizada. 86% dos brasileiros dizem apoiar o uso de IA na segurança pública, segundo pesquisa.

Episódios como o de Maryland, porém, mostram o custo de um alerta falso. No Brasil, a biometria facial também avança como ferramenta de segurança, com obrigatoriedade prevista no celular.

No processo, os estudantes descrevem a abordagem: "O encontro foi aterrorizante e colocou suas vidas em risco. Cercado por policiais armados sem qualquer motivo aparente, cada estudante temeu pela própria vida e pela vida dos amigos."

Depois do susto, um policial da escola e a diretora trataram o caso com deboche em mensagens de texto com emojis. Ela escreveu "era um pacote de salgadinhos" acompanhado de risadas, segundo a ação.

Damon Hewitt preside o Lawyers' Committee for Civil Rights Under Law, entidade que representa os jovens no processo. Ao The Guardian, ele disse:

Esses estudantes foram prejudicados não apenas por uma tecnologia propensa a emitir alertas falsos, mas também pelos próprios adultos que deveriam mantê-los seguros quando os enviamos à escola.

Representantes da Omnilert e dos órgãos públicos não responderam de imediato a pedidos de comentário, segundo o The New York Times.

O que acontece agora

O distrito escolar e a polícia disseram, em comunicado, que estão "comprometidos em adotar medidas adicionais" para que os funcionários sigam os protocolos e evitem casos semelhantes.

O processo, protocolado na terça-feira (17 de novembro), segue em tramitação na Justiça americana.