Privacidade em Risco: A Proposta da UE para Combater o Abuso Infantil

A União Europeia (UE) possui uma reputação consolidada em relação às suas rígidas leis de privacidade. Contudo, um plano legislativo voltado ao combate ao abuso infantil — apresentado formalmente em maio de 2022 — ameaça comprometer a privacidade e segurança de centenas de milhões de usuários de aplicativos de mensagens na região.

A Fundamentação da Proposta

A Comissão Europeia, o órgão legislativo da UE responsável pela elaboração de propostas legais, apresenta esta iniciativa como uma maneira de proteger os direitos das crianças online, confrontando o uso indevido de ferramentas tecnológicas por abusadores que, segundo a Comissão, têm utilizado cada vez mais aplicativos de mensagens para distribuir material de abuso sexual infantil (CSAM) e atrair novas vítimas.

Um Enfoque Teconológico

Em virtude de lobby de setores tecnológicos de segurança infantil, a abordagem adotada pela UE é caracterizada como tecno-solutionista. A iniciativa da Comissão se concentra em regular serviços digitais — especialmente aplicativos de mensagens — impondo a eles a obrigação legal de utilizar ferramentas tecnológicas para escanear as comunicações dos usuários, a fim de detectar e relatar atividades ilegais.

Alterações nas Regras de Privacidade

Nos últimos anos, aplicativos de mensagens populares desfrutaram de uma derrogação temporária das regras de privacidade da UE, que tratam da confidencialidade das comunicações digitais — a derrogação se estende até maio de 2025, conforme sua última prorrogação — permitindo-lhes escanear as comunicações em situações limitadas. Entretanto, a nova regulamentação sobre abuso infantil criaria regras permanentes que, essencialmente, exigiriam o uso de tecnologia de escaneamento de conteúdo baseada em IA em toda a UE.

Ordens Abrangentes de Detecção de CSAM

A proposta original da Comissão inclui a exigência de que as plataformas, uma vez notificadas com uma ordem de detecção, devem escanear as mensagens dos usuários, não apenas em busca de CSAM conhecido (isto é, imagens de abuso infantil previamente identificadas e catalogadas), mas também de CSAM desconhecido (novas imagens de abuso). Isso aumentaria ainda mais o desafio técnico de detectar conteúdo ilegal com alta precisão e baixo número de falsos positivos.

Identificação em Tempo Real

Outro componente da proposta exige que as plataformas identifiquem atividades de grooming em tempo real. Isso significa que, além de escanear uploads de imagens em busca de CSAM, os aplicativos teriam que analisar o conteúdo das comunicações dos usuários para tentar entender quando um adulto pode estar tentando aliciar uma criança.

O uso de ferramentas automatizadas para detectar sinais de comportamentos que podem preceder futuros abusos sugere um enorme potencial para a má interpretação de conversas inocentes. Juntas, as amplas exigências de detecção de CSAM da Comissão transformariam plataformas de mensagens convencionais em ferramentas de vigilância em massa, argumentam os opositores da proposta.

Questões Relativas à Criptografia de Ponta a Ponta

A proposta original da Comissão de regulamentação para combater o abuso sexual infantil não isenta as plataformas de criptografia de ponta a ponta (E2EE) das exigências de detecção de CSAM. Isso significa que, como o uso de E2EE impede que essas plataformas acessem versões legíveis das comunicações dos usuários, uma vez que não detêm as chaves de criptografia, os serviços de mensagens seguros enfrentariam um problema específico de conformidade se fossem legalmente obrigados a entender conteúdo que não podem ver.

A Situação Atual da Proposta

Até o momento, os co-legisladores da UE não conseguiram chegar a um consenso sobre a proposta. No entanto, o projeto de lei permanece em discussão — assim como os riscos que ele representa.

Qualquer um que optar por privacidade seria rebaixado a um conjunto básico de recursos de telefone simples, com apenas texto e áudio. Sim, isso é realmente o que os legisladores regionais estão considerando.

Se os Estados-Membros chegarem a uma versão da proposta que satisfaça o suficiente suas autoridades para abrir a porta para conversas com os parlamentares, isso colocaria tudo em jogo no processso de discussões fechadas da UE. Portanto, os interesses dos direitos dos cidadãos europeus — e a reputação do bloco como defensor da privacidade — permanecem em alto risco.

#Privacidade, #UE, #AbusoInfantil, #Tecnologia, #Legislação, #SegurançaDigital

autor ref: Natasha Lomas
ref:https://techcrunch.com/2024/10/12/chat-control-the-eus-controversial-csam-scanning-legal-proposal-explained/