À medida que deepfakes geradas por inteligência artificial (IA) se tornam mais sofisticadas, reguladores estão recorrendo a regras existentes sobre fraude e práticas enganosas para combater o mau uso. Embora não haja uma lei federal específica que aborde deepfakes, agências como a Comissão Federal de Comércio (FTC) e a Comissão de Valores Mobiliários (SEC) estão aplicando soluções criativas para mitigar esses riscos.

“Não podemos mais acreditar em nossos olhos. O que você vê não é real”, diz um especialista.

Ferramentas para distinguir entre uma imagem autêntica e um deepfake estão sendo desenvolvidas. Mas mesmo que um usuário saiba que uma imagem não é real, os desafios permanecem.

“Usar ferramentas de IA para enganar, induzir em erro ou defraudar pessoas é ilegal”, disse a presidente da FTC em setembro.

Ferramentas de IA usadas para fraude ou engano estão sujeitas às leis existentes, e a FTC irá atrás dos fraudadores de IA.

Intenção: Fraude e Engano

Deepfakes podem ser usados para práticas comerciais desleais, como criar uma imagem falsa de um executivo anunciando ações de sua empresa que poderiam fazer os preços das ações mudarem. Se a negociação de ações estiver envolvida, a SEC poderia processar.

Quando um deepfake é criado com a intenção de enganar, “isso é um elemento clássico de fraude”.

Histórias recentes mostram uma FTC muito ativa em proteger o consumidor e a privacidade.

Uma regra sobre impersonação governamental ou empresarial entrou em vigor, com a agência continuando seus esforços em clones de voz e informações enganosas.

Embora várias leis estaduais abordem deepfakes e privacidade, não há legislação federal clara que defina qual agência lidera a fiscalização. Um juiz distrital dos EUA concedeu uma liminar bloqueando uma lei da Califórnia contra deepfakes relacionados a eleições, reconhecendo os riscos significativos, mas questionando a constitucionalidade da medida.

Desafios de Privacidade e Responsabilidade

Poucas leis protegem não-celebridades ou políticos de violações de privacidade através de deepfakes. As leis existentes geralmente protegem celebridades e suas marcas, mas não o público em geral.

No caso de um deepfake de um não-celebridade, é difícil processar sem saber quem criou o deepfake, e a anonimidade na internet complica a questão.

“Você pode nunca saber quem criou essa coisa, mas o dano ainda existe”.

Alguns estados estão considerando leis focadas no uso de IA e deepfakes. Execuções corporativas não percebem como é fácil criar e distribuir esses conteúdos.

“A questão não é apenas sobre conhecimento de deepfakes, mas sobre o acesso à tecnologia no ambiente de trabalho e controles necessários para mitigar riscos”.

À medida que deepfakes se tornam mais sofisticadas, reguladores estão se adaptando, aproveitando as leis de fraude e privacidade. Sem legislação federal específica, a FTC e a SEC fiscalizam regras contra engano, impersonação e uso indevido de identidade. Os desafios de responsabilidade e privacidade persistem, deixando lacunas que indivíduos e organizações devem navegar. Medidas proativas, como políticas de governança de IA, serão essenciais para mitigar riscos e salvaguardar a confiança na paisagem digital.

5 Medidas para Combater Deepfakes nas Empresas

Para combater deepfakes nas empresas, são necessárias estratégias multifacetadas que abrangem educação, tecnologia, segurança e governança. Aqui estão cinco medidas-chave a considerar:

Educação e Conscientização dos Empregados

Educar os empregados sobre a existência e as consequências dos deepfakes é crucial. Capacite-os para reconhecer sinais de manipulação, como:

• Anomalias nos movimentos faciais
• Inconsistências na qualidade da voz
• Outras inconsistências que possam indicar um deepfake

Autenticação Sólida e Controles de Acesso

Implemente tecnologias de autenticação multifatorial, incluindo autenticação biométrica, para reforçar os controles de acesso. Isso ajuda a evitar o acesso não autorizado a sistemas e informações confidenciais.

Higiene Digital e Práticas de Cibersegurança

Promova uma cultura de higiene digital, incentivando os empregados a:

• Manter o software atualizado
• Usar senhas fortes e únicas
• Ser cautelosos ao abrir e-mails suspeitos ou visitar sites desconhecidos

A autenticação multifatorial e o uso de gerenciadores de senhas também são essenciais.

Utilização de Tecnologias de Detecção de Deepfakes

Utilize soluções avançadas baseadas em IA para detectar e sinalizar possíveis deepfakes. Ferramentas como:

• Sentinel
• Sensity
• Oz Liveness
• WeVerify
• HyperVerge

podem analisar o conteúdo de áudio e vídeo em busca de sinais de manipulação, ajudando a identificar e responder rapidamente a ameaças.

Planificação de Resposta a Crises

Desenvolva um plano de resposta a incidentes especificamente projetado para lidar com deepfakes. Estabeleça:

• Protocolos de comunicação claros
• Membros da equipe responsáveis
• Cenários simulados para garantir uma resposta eficiente e coordenada

Isso inclui colaborar com associações industriais, provedores de tecnologia e autoridades políticas para defender o uso responsável e a regulamentação da tecnologia de deepfakes.

Essas medidas combinadas ajudarão a fortalecer as defesas das empresas contra as ameaças dos deepfakes, protegendo a reputação da marca e mantendo a segurança e a integridade dos dados.

#deepfakes #fraude #privacidade #inteligenciaartificial #responsabilidade #regulamentação #cryptoalch