A OpenAI anunciou, na sexta-feira (30 de outubro), que vai restringir as informações sobre armas que o ChatGPT responde a adolescentes, mesmo quando a pergunta pareça inofensiva. A medida faz parte de um pacote de segurança para prevenir violência no mundo real.
Segundo a empresa, as novas regras limitam informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida. A restrição vale para adolescentes mesmo quando não há nenhum indício de intenção violenta na conversa.
O que muda para todos os usuários
Para qualquer usuário, não só adolescentes, o ChatGPT poderá encerrar automaticamente conversas em que alguém pareça obcecado por violência. A OpenAI também poderá suspender temporariamente contas depois de várias conversas desse tipo.
A empresa também vai reduzir, para todos os usuários, o nível de detalhe sobre ataques em massa ocorridos no passado, incluindo as armas usadas. Também aprimorou o sistema de previsão de idade, usado para direcionar adolescentes à experiência própria para esse público.
A empresa também planeja notificar os pais caso a conta do filho adolescente seja suspensa por discutir violência de forma repetida. As novas medidas começam a ser implementadas nas próximas semanas, e a OpenAI diz que vai seguir aprimorando o sistema.
A mudança chega num momento de maior pressão regulatória sobre como plataformas de IA protegem crianças e adolescentes: a ANPD notificou 22 plataformas em agosto, e o setor enfrenta escrutínio crescente sobre os riscos aos jovens, segundo a CNN Brasil.
Publicidade
Em outubro, a OpenAI demitiu três pesquisadores de segurança em meio a acusações internas.
O que os pais ainda não sabem
Um relatório da ONG Common Sense Media, divulgado no início de outubro, constatou que a versão do ChatGPT para adolescentes frequentemente alerta os pais tarde demais, ou nem chega a alertar.
Isso acontece quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou transtornos alimentares. Em caso de pensamento suicida, a orientação é buscar o Centro de Valorização da Vida pelo telefone 188, gratuito e disponível 24 horas.
Segundo a própria OpenAI, os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, de acordo com o primeiro relatório da empresa sobre o uso do serviço por esse público.
A pressão por regras de proteção infantil na internet também vem de fora das empresas: em junho, o G7 propôs novas regras para proteger crianças on-line, incluindo plataformas de inteligência artificial.
