Iniciativa de Compartilhamento de Incidentes de IA do MITRE

O Center for Threat-Informed Defense do MITRE anunciou esta semana o lançamento da iniciativa de AI Incident Sharing, uma colaboração com mais de 15 empresas para aumentar o conhecimento da comunidade sobre ameaças e defesas para sistemas habilitados por IA.

Objetivos da Iniciativa

A iniciativa de compartilhamento de incidentes se enquadra no projeto Secure AI do centro e visa permitir uma colaboração rápida e segura sobre ameaças, ataques e acidentes envolvendo sistemas habilitados por IA. Ela expande o alcance da base de conhecimento da comunidade MITRE ATLAS, que vem coletando e caracterizando dados sobre incidentes anonimizados nos últimos dois anos. Sob esta iniciativa, uma comunidade de colaboradores receberá dados protegidos e anonimizados sobre incidentes de IA no mundo real.

Submissão de Incidentes

Os incidentes podem ser submetidos via web (https://ai-incidents.mitre.org/) por qualquer pessoa. Organizações que enviarem incidentes serão consideradas para associação, com o objetivo de possibilitar inteligência de risco e análise orientada por dados em escala.

Atualizações no Framework ATLAS

O projeto Secure AI também estendeu o framework de ameaças ATLAS para incorporar informações sobre o cenário de ameaças de sistemas habilitados por generative AI, adicionando diversos novos estudos de caso e técnicas de ataque focadas em IA generativa, além de novos métodos para mitigar ataques a esses sistemas. Em novembro de 2023, em colaboração com a Microsoft, o MITRE lançou atualizações na base de conhecimento ATLAS focadas em IA generativa.

Impacto da Compartilhação de Informações

“O compartilhamento padronizado e rápido de informações sobre incidentes permitirá que toda a comunidade melhore a defesa coletiva de tais sistemas e mitigue danos externos,” disse Douglas Robbins, vice-presidente da MITRE Labs, em uma declaração.

Parcerias e Colaboradores

O MITRE opera uma parceria pública e privada de compartilhamento de informações semelhante com o Aviation Safety Information Analysis and Sharing para compartilhar dados e informações de segurança, identificando e prevenindo riscos na aviação.

Colaboradores do Secure AI

Os colaboradores do Secure AI abrangem diversas indústrias, com representantes dos setores financeiro, tecnológico e da saúde. A lista inclui:

• AttackIQ
• BlueRock
• Booz Allen Hamilton
• CATO Networks
• Citigroup
• Cloud Security Alliance
• CrowdStrike
• FS-ISAC
• Fujitsu
• HCA Healthcare
• HiddenLayer
• Intel
• JPMorgan Chase Bank
• Microsoft
• Standard Chartered
• Verizon Business

#MITRE #IA #Segurança #Tecnologia #Compartilhamento #Inovação #Cibersegurança #InteligênciaArtificial #Colaboração

autor ref: Jennifer Lawinski, Contributing Writer
ref:https://www.darkreading.com/threat-intelligence/mitre-launches-ai-incident-sharing-initiative