Monitoramento da IA na Europa: Ação da Comissão Europeia sobre plataformas de mídia social

Na quarta-feira, a União Europeia (UE) solicitou mais informações de Snapchat, TikTok e YouTube sobre os algoritmos de recomendação de conteúdo dessas plataformas. Esta atividade se enquadra nas normas de governança online do bloco, conhecidas como Digital Services Act (DSA).

Pedido de Informações

Em um comunicado à imprensa, a Comissão revelou ter enviado solicitações de informações (RFI) para as três plataformas de mídia social, pedindo detalhes sobre o design e funcionamento dos seus algoritmos. O prazo para envio das informações é até 15 de novembro.

As respostas das plataformas informarão sobre os próximos passos, que podem incluir a abertura de investigações formais.

Regras de Governança Online da UE

A estrutura de governança online da UE contém penalidades rigorosas por violações, podendo chegar a 6% do faturamento global anual. A norma adiciona uma camada extra de regras de mitigação de riscos sistêmicos para as três plataformas, devido à sua designação como VLOPs (plataformas online muito grandes).

• Identificar e mitigar riscos associados ao uso de IA como ferramenta de recomendação de conteúdo.
• Prevenir impactos negativos em áreas como saúde mental dos usuários e discurso cívico.
• Abordar o risco de disseminação de conteúdo prejudicial devido a algoritmos que buscam aumentar o engajamento.

A UE enfatizou que a mitigação de riscos deve focar em:

• Processo eleitoral e discurso cívico;
• Bem-estar mental dos usuários;
• Proteção de menores.

Diretrizes Específicas para as Plataformas

A Comissão solicitou a Snapchat e YouTube informações detalhadas sobre os parâmetros algorítmicos que utilizam, bem como dados sobre como esses parâmetros podem amplificar riscos sistêmicos. Para TikTok, informações relacionadas a medidas de anti-manipulação também foram requisitadas, bem como estratégias para mitigar riscos que possam ser amplificados pelos sistemas de recomendação.

“As questões também abordam as medidas das plataformas para mitigar a influência de seus sistemas de recomendação na disseminação de conteúdo ilegal, como drogas e discurso de ódio”.

Histórico de Investigações

Essas não são as primeiras RFIs enviadas pela Comissão aos três serviços de mídia social. Solicitações anteriores abordaram riscos eleitorais e questões de proteção infantil. O TikTok, até o momento, é a única plataforma entre as três a estar sob investigação formal por não conformidade com a DSA, especialmente no que se refere à proteção de menores e gestão de riscos de conteúdo prejudicial. Essa investigação continua em andamento.

Um porta-voz do TikTok confirmou a recepção da solicitação e declarou a intenção da empresa de cooperar com o processo.

Conclusão

Com as regras do DSA em vigor desde o verão passado, a Comissão ainda não concluiu nenhum dos vários inquéritos abertos com plataformas maiores. A situação destaca a crescente atenção regulatória sobre os riscos associados ao uso de IA e algoritmos de recomendação em plataformas de mídia social. O futuro das regulamentações na UE poderá influenciar significativamente a forma como essas ferramentas são desenvolvidas e utilizadas globalmente.

1. #EuropaRegulaAI
2. #DSAOnline
3. #AlgoritmosRedesSociais
4. #SnapchatTikTokYouTube
5. #GovernancaOnline

autor original: Natasha Lomas
ref:https://techcrunch.com/2024/10/02/eus-dsa-enforcers-send-more-questions-to-snapchat-tiktok-and-youtube-about-ai-risks/