A Revolução da IA Generativa nas Empresas

A Inteligência Artificial Generativa (GenAI) tem revolucionado a produtividade nas empresas, facilitando processos como desenvolvimento de software, análise financeira, planejamento de negócios e engajamento com clientes. Contudo, essa agilidade vem acompanhada de riscos, especialmente a possibilidade de vazamento de dados sensíveis. À medida que as organizações tentam equilibrar os ganhos de produtividade com as preocupações de segurança, muitas se veem forçadas a optar entre o uso irrestrito das ferramentas de GenAI ou banir sua utilização completamente.

Preocupações com a Utilização de ChatGPT

O uso irrestrito de GenAI pode resultar em exposições acidentais de dados. Exemplos como o vazamento de dados da Samsung, onde funcionários expuseram acidentalmente código proprietário ao usarem o ChatGPT, demonstram a necessidade de políticas e controles robustos para mitigar os riscos associados ao uso de GenAI. Essa compreensão não é apenas anedótica; segundo pesquisas realizadas pela LayerX Security:

• 15% dos usuários corporativos admitiram ter colado dados em ferramentas de GenAI.
• 6% desses usuários colocaram dado sensível, como código fonte, informações pessoais identificáveis (PII) ou informações organizacionais sensíveis.
• Entre os 5% dos usuários de GenAI que mais utilizam a ferramenta, 50% pertencem a áreas de Pesquisa e Desenvolvimento (P&D).
• O código fonte é o tipo primário de dado sensível exposto, representando 31% dos dados vazados.

Medidas Cruciais para Gestores de Segurança

Você gestor de segurança, como pode permitir o uso de GenAI sem expor sua organização a riscos de exfiltração de dados? O guia oferece os seguintes passos importantes:

1. Mapeamento do Uso de IA na Organização – Entenda o que precisa ser protegido. Mapeie quem está utilizando ferramentas de GenAI, como, para quais fins e quais tipos de dados estão sendo expostos. Isso será a base para uma estratégia eficaz de gerenciamento de riscos.
2. Restrições em Contas Pessoais – Aproveite a proteção oferecida pelas contas corporativas de GenAI, que incluem medidas de segurança integradas para reduzir o risco de vazamento de dados sensíveis. Isso envolve restrições sobre os dados usados para treinamento, limites de retenção de dados, restrições sobre compartilhamento de contas, anonimização, entre outros. Este passo exige o uso eficaz de contas institucionais ao trabalhar com GenAI.
3. Conscientização dos Usuários – Utilize a habilidade dos colaboradores. Mensagens de lembrete que aparecem ao usar ferramentas de GenAI podem aumentar a conscientização sobre as consequências potenciais das ações e sobre as políticas organizacionais, reduzindo comportamentos de risco.
4. Bloqueio de Entrada de Informações Sensíveis – Introduza tecnologias avançadas que implantem controles automatizados, restringindo a entrada de grandes volumes de dados sensíveis em ferramentas de GenAI, como código fonte, informações de clientes, PII e dados financeiros.
5. Restrição de Extensões de Navegador de GenAI – Gerencie e classifique automaticamente as extensões de navegador relacionadas a IA por nível de risco, prevenindo o acesso não autorizado a dados sensíveis organizacionais.

Balanceando Produtividade e Segurança

Para aproveitar os plenos benefícios da produtividade trazidos pela Inteligência Artificial Generativa, as empresas precisam encontrar um equilíbrio entre produtividade e segurança. Dessa forma, a segurança em GenAI não deve ser uma escolha binária entre permitir toda atividade de IA ou bloqueá-la completamente. Em vez disso, uma abordagem mais sutil e ajustada permitirá que as organizações colham os benefícios comerciais sem se expor a riscos desnecessários. Para os gestores de segurança, essa é a chave para se tornarem parceiros e habilitadores cruciais dentro dos negócios.

#InteligênciaArtificial #SegurançaDigital #IAGenerativa #GestãoDeRisco #ProdutividadeEmpresarial
The Hacker News
https://thehackernews.com/2024/10/5-actionable-steps-to-prevent-genai.html