Comentário

À medida que os cibercriminosos aperfeiçoam o uso de IA generativa (GenAI), deepfakes e várias outras técnicas alimentadas por IA, o conteúdo fraudulento está se tornando alarmantemente realista, representando um desafio imediato à segurança tanto de indivíduos quanto de empresas. A clonagem de voz e vídeo não é algo que acontece apenas com políticos ou celebridades proeminentes, mas está prejudicando pessoas e empresas com perdas significativas que chegam a milhões de dólares.

Os ataques cibernéticos baseados em IA estão aumentando, e 85% dos profissionais de segurança, conforme um estudo da Deep Instinct, atribuem esse aumento à IA generativa.

O Problema da Fraude com IA

No início deste ano, a polícia de Hong Kong revelou que um trabalhador do setor financeiro foi enganado e transferiu 25 milhões de dólares para criminosos através de uma videoconferência de múltiplas pessoas com deepfake. Embora esse tipo de golpe sofisticado com deepfake ainda seja bastante raro, os avanços na tecnologia significam que está se tornando mais fácil de executar, e os enormes lucros fazem dele um empreendimento potencialmente lucrativo.

A Gartner agora prevê que 30% das empresas considerarão soluções de verificação de identidade e autenticação “não confiáveis” até 2026, principalmente devido a deepfakes gerados por IA.

Passos Práticos para Minimizar Fraudes Baseadas em IA

1. Eliminar a Falsificação de Identidade Caller ID

Deepfakes, assim como muitas ameaças baseadas em IA, são eficazes porque funcionam em combinação com outras técnicas de fraude conhecidas, como engenharia social e chamadas fraudulentas. Parar a falsificação da identificação do chamador retira a base dos golpistas. Um dos métodos mais eficazes envolve alterar a forma como as operadoras identificam e lidam com números falsificados.

2. Usar Análise de IA para Combater a Fraude com IA

Os profissionais de segurança estão se juntando aos cibercriminosos, utilizando táticas de IA que os golpistas usam para se defender contra ataques. Modelos de IA/ML são ideais para detectar padrões ou anomalias em vastos conjuntos de dados.

3. Focar na Qualidade dos Dados

A qualidade dos dados desempenha um papel crítico no reconhecimento de padrões, detecção de anomalias e em outros métodos baseados em aprendizado de máquina usados para combater o crime cibernético moderno. Dados de telemetria, como inteligência de tráfego de rede, fornecem a “verdade fundamental” sobre a qual construir defesas efetivas.

4. Conheça Seu Normal

O volume e os padrões de dados em uma rede são significadores únicos, semelhantes a uma impressão digital. É crucial que as empresas desenvolvam um entendimento profundo do que “normal” é para sua rede, para que possam identificar e reagir a anomalias.

Em resumo, os cibercriminosos estão aproveitando rapidamente a IA, especialmente a GenAI, para fraudes cada vez mais realistas que podem ser implementadas em uma escala anteriormente impossível. Com a escalada de deepfakes e ameaças cibernéticas baseadas em IA, as empresas devem aproveitar análises avançadas de dados para fortalecer suas defesas.

#cibersegurança #fraude #inteligenciaartificial #deepfakes #protecaoempresarial

2024-10-02T22:54:51.000Z
Laura Wilber
ref:https://www.darkreading.com/cyber-risk/4-ways-fight-ai-based-fraud