Criminosos têm utilizado avanços em inteligência artificial para produzir imagens explícitas de crianças, introduzindo uma série de riscos complexos. Um relatório recente do Observatório da Internet da Universidade de Stanford revela um aumento preocupante no volume de material de abuso sexual infantil gerado por IA, que pode potencialmente sobrecarregar as autoridades americanas, já pressionadas por tecnologias e legislações obsoletas.
O Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC), que serve como o principal canal federal para relatos de abuso infantil online, enfrenta dificuldades para gerenciar essa ameaça crescente. Shelby Grossman, coautora do relatório, antecipa dificuldades futuras: “A linha de denúncias pode ser inundada com conteúdo de IA extremamente realista, tornando mais difícil identificar e resgatar crianças reais.”
O NCMEC está na linha de frente do combate a imagens sexualmente abusivas geradas artificialmente, um campo criminal ainda em formação e sujeito à regulamentação emergente. A presença de deepfakes de ‘nudes’ gerados por IA nas escolas tem motivado legisladores a avançar com propostas para classificar esses materiais como ilegais.
As imagens de CSAM criadas por IA são consideradas ilegais quando envolvem crianças reais ou dados de crianças para a sua criação. Entretanto, aquelas geradas totalmente por síntese, sem elementos reais, podem ser protegidas sob a premissa de liberdade de expressão, segundo o relatório.
A crescente preocupação com a proteção das crianças na internet foi evidenciada em uma recente audiência com executivos de grandes plataformas como Meta, Snap, TikTok, Discord e X, que enfrentaram críticas severas quanto à eficácia de suas medidas de segurança online. O NCMEC, que recebe informações de entidades como Facebook e Google, pleiteia por mais financiamento e acesso a tecnologias avançadas para fortalecer suas operações.
“O emprego de novas tecnologias ao longo do processo da Linha Cibernética amplia a proteção das crianças”, afirmou a organização em um comunicado.
Durante o ano passado, menos da metade dos relatórios recebidos pela Linha Cibernética foram julgados “acionáveis”, frequentemente devido à falta de informações completas ou à rápida disseminação de imagens em forma de memes, que dificultam a triagem efetiva.
