O conjunto de regras baseado em riscos da União Europeia para inteligência artificial — também conhecido como Ato de IA da UE — está sendo desenvolvido há anos. Mas espere ouvir muito mais sobre esta regulamentação nos próximos meses (e anos), conforme os prazos-chave de conformidade se aproximam. Enquanto isso, continue lendo para uma visão geral da lei e seus objetivos.

Então, o que a UE está tentando alcançar? Voltemos a abril de 2021, quando a Comissão publicou a proposta original e os legisladores a apresentaram como uma lei para fortalecer a capacidade do bloco de inovar em IA, promovendo a confiança entre os cidadãos. A estrutura garantiria que as tecnologias de IA permanecessem “centradas no ser humano” enquanto também forneciam regras claras para que as empresas realizassem sua mágica de aprendizado de máquina, sugeriu a UE.

A crescente adoção da automação na indústria e na sociedade certamente tem o potencial de aumentar a produtividade em várias áreas. Mas também apresenta riscos de danos em larga escala se os resultados forem ruins e/ou se a IA interferir nos direitos individuais e não os respeitar.

O objetivo do bloco com o Ato de IA é, portanto, impulsionar a adoção da IA e crescer um ecossistema local, estabelecendo condições que visam reduzir os riscos de que as coisas possam dar muito errado. Os legisladores acreditam que ter guardrails em vigor aumentará a confiança dos cidadãos na IA e sua adoção.

A ideia de fomentar o ecossistema por meio da confiança era bastante aceita no início da década, quando a lei estava sendo discutida e redigida. No entanto, houve objeções em alguns setores, alegando que era simplesmente cedo demais para regular a IA e que a inovação e competitividade europeias poderiam sofrer.

É pouco provável que alguém diga que é cedo demais agora, considerando como a tecnologia explodiu na consciência mainstream, graças à ascensão de ferramentas de IA generativa. Mas ainda existem objeções de que a lei prejudica as perspectivas de empreendedores de IA locais, apesar da inclusão de medidas de apoio, como caixas de areia regulatórias.

Ainda assim, o grande debate para muitos legisladores agora gira em torno de como regular a IA, e com o Ato de IA a UE definiu seu caminho. Os próximos anos serão dedicados à execução do plano pelo bloco.

Quais são os requisitos do Ato de IA?

A maioria dos usos da IA não é regulamentada pelo Ato de IA, pois não se enquadra nas regras baseadas em riscos. (Vale também notar que os usos militares da IA estão totalmente fora do escopo, já que a segurança nacional é uma competência legal dos estados membros, e não da UE.)

Para os possíveis usos da IA, a abordagem baseada em riscos do Ato estabelece uma hierarquia onde um punhado de casos de uso potenciais (por exemplo, “técnicas subliminares, manipulativas e enganosas” ou “classificação social inaceitável”) são considerados portadores de “risco inaceitável” e, portanto, banidos. No entanto, a lista de usos proibidos está repleta de exceções, significando que mesmo o pequeno número de proibições da lei carrega muitas ressalvas.

Por exemplo, uma proibição do uso de identificação biométrica remota em tempo real por órgãos de execução da lei em espaços públicos acessíveis não é a proibição total que alguns parlamentares e muitos grupos da sociedade civil haviam defendido, com exceções permitindo seu uso para certos crimes.

A próxima categoria abaixo do risco inaceitável/usos banidos é a de casos de uso de “alto risco” — como aplicativos de IA usados para infraestrutura crítica; execução da lei; educação e treinamento profissional; saúde; entre outros — onde os desenvolvedores devem realizar avaliações de conformidade antes do lançamento no mercado e de forma contínua (como quando fazem atualizações substanciais nos modelos).

Isso significa que o desenvolvedor deve ser capaz de demonstrar que está atendendo aos requisitos da lei em áreas como qualidade de dados, documentação e rastreabilidade, transparência, supervisão humana, precisão, cibersegurança e robustez. Eles devem implementar sistemas de gestão de qualidade e riscos para que possam demonstrar conformidade se uma autoridade de fiscalização for até eles para uma auditoria.

Sistemas de alto risco que são implantados por órgãos públicos também devem ser registrados em um banco de dados público da UE.

Há também uma terceira categoria, a de “risco médio”, que aplica obrigações de transparência a sistemas de IA, como chatbots ou outras ferramentas que podem ser usadas para produzir mídias sintéticas. Aqui, a preocupação é que esses tipos de tecnologia podem ser usados para manipular pessoas, então é necessário informar os usuários que estão interagindo com ou visualizando conteúdo produzido por IA.

Todos os outros usos de IA são automaticamente considerados de baixo/minimal risco e não são regulamentados. Isso significa que, por exemplo, o uso de IA para classificar e recomendar conteúdo de mídia social ou direcionar publicidade não possui nenhuma obrigação sob essas regras. Mas o bloco incentiva todos os desenvolvedores de IA a seguirem voluntariamente as melhores práticas para aumentar a confiança dos usuários.

Esse conjunto de regras baseadas em riscos em camadas compõe a essência do Ato de IA. Mas também há alguns requisitos dedicados para os modelos multifacetados que sustentam as tecnologias de IA generativa — que o Ato de IA chama de modelos de “IA de propósito geral” (ou GPAIs).

Esse subconjunto de tecnologias de IA, que a indústria às vezes chama de “modelos fundamentais”, normalmente antecede muitos aplicativos que implementam inteligência artificial. Os desenvolvedores estão acessando APIs dos GPAIs para incorporar as capacidades desses modelos em seu próprio software, muitas vezes ajustadas para um caso de uso específico para agregar valor. Tudo isso para dizer que os GPAIs rapidamente ganharam uma posição poderosa no mercado, com potencial para influenciar os resultados da IA em larga escala.

A GenAI entrou na conversa…

A ascensão da GenAI remodelou mais do que apenas a conversa em torno do Ato de IA da UE; levou a mudanças no próprio conjunto de regras, uma vez que o longo processo legislativo do bloco coincidiu com a empolgação em torno de ferramentas de GenAI como o ChatGPT. Os legisladores no Parlamento Europeu aproveitaram a oportunidade para responder.

Os eurodeputados propuseram adicionar regras adicionais para GPAIs — ou seja, os modelos que sustentam as ferramentas de GenAI. Isso, por sua vez, intensificou a atenção da indústria de tecnologia sobre o que a UE estava fazendo com a lei, levando a um intenso lobby em defesa de uma exceção para os GPAIs.

A empresa francesa de IA Mistral foi uma das vozes mais altas, argumentando que as regras para os criadores de modelos retardariam a capacidade da Europa de competir contra gigantes da IA dos EUA e da China. Sam Altman, da OpenAI, também contribuiu, sugerindo, em uma observação casual a jornalistas, que poderia retirar sua tecnologia da Europa se as leis se mostrassem muito onerosas, antes de voltar rapidamente ao lobby tradicional com personagens regionais após a UE chamá-lo por essa ameaça desajeitada.

Altman fazendo uma rápida imersão na diplomacia europeia foi um dos efeitos colaterais mais visíveis do Ato de IA.

O resultado de todo esse barulho foi uma corrida frenética para concluir o processo legislativo. Foram necessários meses e uma maratona de negociações finais entre o Parlamento Europeu, o Conselho e a Comissão para colocar a questão em votação no ano passado. O acordo político foi fechado em dezembro de 2023, abrindo caminho para a adoção do texto final em maio de 2024.

A UE tem promovido o Ato de IA como um “primeiro global”. Mas ser o primeiro nesse contexto de tecnologia de ponta significa que ainda há muitos detalhes a serem ajustados, como estabelecer os padrões específicos nos quais a lei será aplicada e produzir diretrizes detalhadas de conformidade (Códigos de Prática) para que o regime de supervisão e construção de ecossistemas que a lei prevê funcione.

Portanto, no que diz respeito à avaliação de seu sucesso, a lei ainda é uma obra em progresso — e será por muito tempo.

Para os GPAIs, o Ato de IA continua a abordagem baseada em riscos, com (apenas) requisitos mais leves para a maioria desses modelos.

Para os GPAIs comerciais, isso implica regras de transparência (incluindo requisitos de documentação técnica e divulgações sobre o uso de material protegido por direitos autorais para treinar modelos). Essas disposições visam ajudar os desenvolvedores a se adaptarem à conformidade com o Ato de IA.

Há também um segundo nível — para os GPAIs mais poderosos (e potencialmente arriscados) — onde o Ato aumenta as obrigações dos criadores de modelos ao exigir avaliação proativa de riscos e mitigação de riscos para GPAIs com “risco sistêmico”.

Aqui, a UE se preocupa com modelos de IA muito poderosos que podem representar riscos à vida humana, por exemplo, ou mesmo riscos de que os desenvolvedores percam o controle sobre o desenvolvimento contínuo de IAs autoconfiguráveis.

Os legisladores optaram por usar o limite de computação para o treinamento de modelos como um classificador para esse nível de risco sistêmico. Os GPAIs se enquadrarão nessa categoria com base na quantidade cumulativa de computação usada para seu treinamento, medido em operações de ponto flutuante (FLOPs) superiores a 10²⁵.

Até agora, nenhum modelo é considerado dentro do escopo, mas claro que isso pode mudar à medida que a GenAI continuar a se desenvolver.

Há também certa flexibilidade para especialistas em segurança de IA envolvidos na supervisão do Ato de IA para sinalizar preocupações sobre riscos sistêmicos que podem surgir em outros locais. (Para mais informações sobre a estrutura de governança que o bloco elaborou para o Ato de IA — incluindo os vários papéis do Escritório de IA — veja nosso relatório anterior.)

O lobby da Mistral e outros resultou em uma flexibilização das regras para GPAIs, com exigências mais leves para provedores de código aberto, por exemplo (sorte da Mistral!). Pesquisa e desenvolvimento também receberam uma exceção, o que significa que GPAIs que ainda não foram comercializados caem totalmente fora do escopo do Ato, sem mesmo que os requisitos de transparência se apliquem.

Uma longa jornada rumo à conformidade

O Ato de IA entrou oficialmente em vigor em toda a UE em 1º de agosto de 2024. Essa data essencialmente disparou o sinal de partida, à medida que prazos para cumprir diferentes componentes devem ocorrer em diferentes intervalos entre o início do próximo ano e até meados de 2027.

Alguns dos principais prazos de conformidade surgem seis meses após a entrada em vigor, quando as regras sobre casos de uso proibidos entram em vigor; nove meses depois, quando os Códigos de Prática começam a se aplicar; 12 meses depois para requisitos de transparência e governança; 24 meses para outros requisitos de IA, incluindo obrigações para alguns sistemas de alto risco; e 36 meses para outros sistemas de alto risco.

Parte da razão para essa abordagem escalonada às disposições legais é dar tempo suficiente às empresas para organizarem suas operações. Mas, mais do que isso, está claro que é necessário tempo para os reguladores entenderem como será a conformidade nesse contexto de alta tecnologia.

No momento em que esta análise é escrita, o bloco está ocupado formulando orientações para vários aspectos da lei antes desses prazos, como Códigos de Prática para criadores de GPAIs. A UE também está consultando sobre a definição de “sistemas de IA” da lei (ou seja, qual software estará dentro ou fora do escopo) e esclarecimentos relacionados a usos proibidos de IA.

A imagem completa do que o Ato de IA significará para as empresas abrangidas ainda está sendo desenhada e desenvolvida. Mas os detalhes-chave devem ser finalizados nos próximos meses e até a primeira metade do ano que vem.

Uma última coisa a considerar: em consequência da velocidade de desenvolvimento na área de IA, o que é necessário para permanecer dentro da lei provavelmente continuará a mudar à medida que essas tecnologias (e os riscos associados) continuem a evoluir. Portanto, este é um conjunto de regras que pode precisar permanecer como um documento vivo.

Aplicação das regras de IA

A supervisão dos GPAIs é centralizada em nível da UE, com o Escritório de IA desempenhando um papel central. As penalidades que a Comissão pode impor para fazer cumprir essas regras podem chegar a 3% da receita global dos criadores de modelos.

Em outros lugares, a aplicação das regras do Ato para sistemas de IA é descentralizada, significando que será responsabilidade das autoridades de nível estadual (plural, pois pode haver mais de um órgão de supervisão designado) avaliar e investigar questões de conformidade para a maioria dos aplicativos de IA. A viabilidade dessa estrutura ainda está por ser avaliada.

No papel, as penalidades podem chegar a 7% da receita global (ou €35 milhões, o que for maior) por violações de usos proibidos. Violações de outras obrigações de IA podem resultar em multas de até 3% da receita global, ou até 1,5% por fornecer informações incorretas aos reguladores. Portanto, há uma escala de sanções que as autoridades de fiscalização podem utilizar.

Impactos da Regulação de IA na Inovação Tecnológica

A regulamentação imposta pelo Ato de IA da UE introduz um conjunto complexo de regras que, embora visem promover a confiança e a segurança nas tecnologias de IA, também podem ter impactos significativos na inovação tecnológica no setor. O Ato de IA da UE apresenta um paradoxo: enquanto busca garantir a conformidade e a responsabilidade, pode ainda limitar a agilidade e a criatividade necessárias para o avanço rápido do setor de IA.

Tensões entre Compliance e Competitividade

As empresas, especialmente as startups e pequenas empresas, enfrentam desafios significativos quando se trata de conformidade de IA com as novas regulamentações. A necessidade de atender a requisitos rigorosos de transparência e supervisão pode criar um ambiente regulatório restritivo, dificultando a inovação.

Um dos principais desafios enfrentados pelas startups é o aumento potencial nos custos de conformidade. De acordo com especialistas da área, como Daniel Becker e Patricia Peck, a complexidade burocrática e o emaranhado de regras podem sufocar a inovação. Essas startups frequentemente não têm os mesmos recursos financeiros ou humanos que grandes corporações, tornando-as vulneráveis às dificuldades impostas pela nova legislação.

Por outro lado, o cumprimento das regras de IA pode oferecer um ambiente mais previsível e seguro a longo prazo. Empresas podem se beneficiar das estipulações que incentivam a transparência e a segurança, o que, para alguns, se traduz em um aumento da confiança do consumidor e, consequentemente, de seus investimentos em inovação.

Restrições e Desafios para Startups e Pequenas Empresas

O impacto direto das novas legislações é mais percebido nas estruturas das startups, que normalmente operam em um ambiente de alta incerteza e velocidade. A implementação das regras da UE pode exigir investimentos significativos em recursos administrativos e tecnológicos, o que pode resultar em uma desaceleração no desenvolvimento de novos produtos.

Além disso, uma pesquisa mostrou que as startups em setores onde a regulamentação é menos intensiva podem se ver em situação de vantagem competitiva sobre aqueles que têm que lidar com o pesado fardo regulatório. Essa discrepância pode refrear o potencial inovador em regiões mais rigorosas.

É importante ressaltar, no entanto, que a regulamentação não precisa ser um obstáculo; ela pode ser um catalisador para o surgimento de novas práticas de negócios e abordagens inovadoras. Um exemplo disso é a exigência de que as empresas adotem práticas de auditoria e monitoração em tempo real, práticas que estimulem uma cultura de inovação.

Custo de Conformidade

Um aspecto crítico a ser considerado no debate sobre a regulamentação de IA é o custo associado à conformidade. O desenvolvimento e implementação de sistemas para garantir a conformidade com o Ato de IA da UE representa um investimento que pode ser desproporcional, especialmente para startups.

Investimentos financeiros, tempo e energia que poderiam ser direcionados para pesquisa e desenvolvimento podem ser absorvidos pela necessidade de cumprimento normativo. Isso pode desencorajar novos entrantes em um mercado competitivo e, ao mesmo tempo, provocar um efeito de estagnação na inovação dentro das empresas existentes.

Contudo, à medida que empresas se adaptam a essas novas realidades, surgem oportunidades. O que pode ser inicialmente visto como uma barreira pode, eventualmente, se traduzir em uma vantagem competitiva se empresas se adaptarem rapidamente às exigências e utilizarem a regulamentação como um meio para se posicionar como líderes em conformidade e ética no uso de IA.

Manutenção da Competitividade

Apesar das tensões existentes, a regulamentação de IA da UE pode também estimular a inovação de maneiras inesperadas. A necessidade de conformidade pode impulsionar o desenvolvimento de tecnologias alternativas que atuem de forma a satisfazer as exigências regulatórias.

A exigência de práticas de transparência e explicabilidade pode levar à criação de sistemas de IA mais avançados e éticos, reconhecendo que a confiança do consumidor é um ativo valioso. Isso pode incluir ferramentas tecnológicas que não apenas atendem aos padrões de conformidade, mas também superam as expectativas do mercado, resultando em um realinhamento nas práticas de desenvolvimento.

Por exemplo, empresas que implementam mecanismos robustos para a supervisão humana e avaliações de risco proativas podem não apenas cumprir os requisitos regulatórios, mas também se destacar no mercado como inovadoras em práticas empresariais responsáveis. Essa projeção pode resultar em uma lealdade do cliente que proporciona benefícios a longo prazo.

Inovação em Resposta às Exigências Regulatórias

À medida que a regulamentação evolui, pode-se observar que a necessidade de inovação e adaptação às novas regras se tornará parte integrante da cultura organizacional das empresas de IA. Isso pode conduzir a uma nova era de inovação, onde a transparência e segurança não são apenas requisitos, mas são incorporados como pilares da estratégia de negócios.

Por exemplo, a legislação pode inspirar o desenvolvimento de ferramentas que garantam a segurança dos dados de maneira inovadora, estabelecendo precedentes que podem beneficiar outros setores. Requisitos de transparência para GPAIs podem levar a uma maior responsabilidade e ética na utilização de sistemas de IA.

Essencialmente, a necessidade de adaptação às novas políticas pode criar um círculo virtuoso, onde a inovação é continuamente estimulada pela obrigação de conformidade e pela pressão para melhorar as práticas de negócios.

Segurança Jurídica e Estímulo ao Mercado

A regulamentação de IA na UE, quando bem implementada, oferece um quadro claro e seguro para empresas que buscam inovar. A segurança jurídica proporcionada pela legislação pode, paradoxalmente, agir como um estímulo para o investimento e a inovação.

Os investidores se sentem mais confortáveis em colocar seu capital em empresas que operam em um ambiente regulatório claro e previsível. Como mencionado anteriormente, o impacto da regulamentação do GDPR demonstrou que, apesar de suas exigências rigorosas, a criação de normas globais ajudou a impulsionar a confiança do consumidor e, consequentemente, a inovação.

Com isso, espera-se que, à medida que um quadro regulatório mais robusto se firmar, empresas estejam mais inclinas a experimentar novas ideias e tecnologias, deixando um legado de inovação que pode ultrapassar as regulamentações em um futuro próximo.

Categorias de Risco e Flexibilidade Regulatória

O Ato de IA da UE estabelece diferentes níveis de risco, seja Risco Inaceitável, Alto Risco, Risco Limitado ou Risco Mínimo. Esta distinção permite uma abordagem mais flexível, dependendo do tipo de aplicação de IA.

Sistemas identificados como de alto risco são submetidos a regras rigorosas. Por outro lado, aplicações de risco mínimo, como videojogos com funcionalidades de IA, podem operar com maior liberdade, permitindo que desenvolvedores explorem a criatividade sem o peso da regulamentação excessiva.

Além disso, essa categorização permite que as empresas se adaptem gradualmente às novas regras, proporcionando prazos distintos para o cumprimento das exigências dependendo do tipo de sistema de IA em questão.

Implicações para Modelos de IA de Propósito Geral (GPAIs)

A legislação da UE é menos categórica com os modelos de IA de uso geral, que se beneficiam de regras mais brandas. Isso facilita a inovação nessa área, permitindo que as empresas desenvolvam e implementem tecnologias de IA de maneira mais flexível.

Entretanto, mesmo com regras mais leves, a legislação exige que sistemas de IA, incluindo GPAIs, implementem práticas adequadas de monitoramento pós-comercialização. Essas práticas são essenciais para assegurar a segurança e a ética no uso das tecnologias de IA, independente do nível da regulamentação aplicada.

Portanto, enquanto os modelos de IA de uso geral não estão sob o mesmo nível de rigor que os sistemas de alta complexidade, as suas implementações ainda devem observar padrões claros de responsabilidade e supervisão, perpetuando uma cultura de inovação responsável e transparente.

Prazos de Conformidade

A legislação também estabelece prazos diferentes para conformidade, permitindo que as empresas se ajustem de forma ordenada. As proibições sobre o uso de inteligência artificial em certas áreas, por exemplo, entrarão em vigor em seis meses, estabelecendo um cronograma que obriga as empresas a se prepararem adequadamente.

Requisitos de transparência e governança terão um prazo de implementação de 12 meses, enquanto obrigações para alguns sistemas de alto risco podem levar até 36 meses para serem completamente aplicadas. Essa abordagem escalonada não apenas ajuda as empresas a se prepararem mais rapidamente, mas também assinala a disposição da UE de garantir uma transição suave para normas mais rigorosas.

Ao permitir esse espaço de adaptação, as empresas têm um tempo considerável para redefinir suas estratégias e processos, garantindo que possam não apenas satisfazer as exigências legais, mas também prosperar na nova dinâmica de mercado.

Desafios de Conformidade e Auditoria em Projetos de IA

A implementação do Ato de IA da UE apresenta inúmeros desafios para empresas que trabalham em projetos de Inteligência Artificial (IA), especialmente aquelas envolvidas em complexidades dinâmicas e incessantes evoluções da tecnologia. Com as novas regras de IA em vigor, é imperativo compreender as implicações de conformidade que impactam não apenas a operação das empresas, mas também a saúde e segurança dos usuários finais.

Categorias de Risco e Requisitos Específicos

Um dos principais pilares do Ato de IA da UE é a classificação dos sistemas de IA em diferentes níveis de risco. Esta categorização determina a intensidade das obrigações de conformidade que cada tecnologia deve observar, sendo crucial para qualquer projeto de IA em desenvolvimento.

• Sistemas de Alto Risco: Estas aplicações abrangem dispositivos médicos, sistemas de vigilância biométrica e outras tecnologias que têm um impacto direto e significativo na vida humana. Elas estão sujeitas a obrigações rigorosas de gestão de riscos, governança de dados, e supervisão humana.
• Sistemas de Risco Limitado: Incluir chatbots e deepfakes, exige obrigações de transparência em IA mais brandas. Apesar de menos rígidos, devem assegurar que os usuários sejam informados sobre sua interação com a tecnologia.

Essas categorias de risco exigem que as empresas adotem abordagens proativas e metódicas para garantir a conformidade total com as diretrizes do Ato de IA. Falhar na classificação ou em atender os requisitos pode resultar em penalidades significativas.

Gerenciamento de Riscos

O gerenciamento de riscos é um aspecto central no cumprimento das regulamentações estabelecidas. As empresas precisam identificar e mitigar riscos potenciais associados aos sistemas de IA que estão desenvolvendo ou utilizando.

• Identificação e Mitigação de Riscos: As companhias devem atentar para a conformidade com a Regulamentação Geral sobre a Proteção de Dados (RGPD), evitando a inclusão de vieses em conjuntos de dados usados no treinamento de IA. Isso não só ajuda na conformidade legal, mas também na credibilidade da tecnologia.
• Avaliação de Impacto: Antes da implementação de sistemas de IA de alto risco, é mandatório realizar avaliações de impacto que minimizem os riscos para os direitos fundamentais dos cidadãos. Isso requer uma análise cuidadosa e criteriosa.

Alinhar práticas de gerenciamento de riscos com os requisitos regulatórios representa um desafio para muitas empresas e requer um comprometimento com a mudança cultural dentro das organizações.

Auditorias de Sistemas de IA

Auditorias eficazes são cruciais para garantir conformidade sob o Ato de IA da UE. Estas devem ser vistas como instrumentos primordiais para garantir que as tecnologias estejam alinhadas com as normas estabelecidas.

• Avaliação da Conformidade: Antes de lançar um sistema de IA no mercado, as companhias devem realizar avaliações para confirmar que atenderam a todos os requisitos legais relevantes. Isso inclui a análise de sistemas de avaliação de riscos e a qualidade dos dados utilizados.
• Supervisão e Fiscalização: O regulamento propõe a instituição do Office IA, que tem o papel de supervisionar e fiscalizar as empresas fornecedoras de modelos de IA. Este escritório realizará auditorias regulares para verificar a conformidade.

As auditorias não podem ser encaradas como um fardo, mas sim como um componente fundamental para a saúde a longo prazo de qualquer operação de IA.

Implementação de Práticas Recomendadas

Para atingir os altos padrões de qualidade e conformidade exigidos pelo Ato de IA, as empresas precisam estabelecer um conjunto robusto de práticas recomendadas que assegurem a eficácia e a segurança de seus sistemas de IA.

• Transparência em IA: É vital que os usuários sejam informados sobre a natureza da IA com a qual estão interagindo. Isso inclui a rotulação apropriada de conteúdos gerados pela tecnologia, como texto, áudio e vídeo.
• Supervisão Humana: As decisões automatizadas devem, quando possível, ser sempre passíveis de revisão e avaliação por um ser humano. Essa supervisão ajudará a corrigir potenciais erros de interpretação.
• Sistema de Gestão da Qualidade (QMS): Integrar um QMS que englobe tanto dispositivos quanto sistemas de IA é essencial. Ao integrar normas existentes, como a ISO/IEC 13485, com os requisitos de IA, as empresas podem otimizar suas operações.

A adoção dessas normas e práticas deverá ser uma prioridade para empresas que desejam estar à frente na conformidade com a regulamentação de IA.

Implicações Financeiras e Administrativas

Garantir a conformidade com o Ato de IA da UE pode gerar um ônus financeiro significativo, especialmente para pequenas e médias empresas (PMEs). O investimento em tecnologia, gestão de riscos e auditorias adequadas aumentará significativamente os custos operacionais.

• Investimentos Significativos: As empresas terão que destinar recursos substanciais para a documentação técnica, gestão de riscos e auditorias necessárias para a conformidade, o que pode ser particularmente desafiador para PMEs.
• Multas por Violações: As penalidades podem variar de €7,5 milhões a €35 milhões, ou de 1,5% a 7% do faturamento global das empresas. Isso representa um desincentivo significativo para a não conformidade e um incentivo para estas empresas investirem na adequação a nova legislação.

Dessa forma, a conformidade não é apenas uma questão legal, mas também uma questão de sobrevivência comercial.

Estratégias de Gerenciamento

Para lidar com os desafios de conformidade oferecidos pelo Ato de IA, as empresas podem adotar diversas estratégias eficazes.

• Integração com Regulamentações Existentes: É fundamental que os novos requisitos sejam integrados aos regulamentos já existentes, como a RGPD, para evitar sobrecarga regulatória e otimizar processos administrativos.
• Plano de Conformidade: As empresas devem desenvolver planos de conformidade detalhados, com prazos claros para a implementação dos novos requisitos, como os 36 meses para a conformidade de sistemas de IA mais complexos.
• Treinamento e Capacitação: Investir em treinamento para os colaboradores é crucial. A compreensão adequada dos requisitos do Ato de IA garante uma implementação mais eficiente e reduz a probabilidade de violações.

Essas estratégias não só ajudam as empresas a navegar pelos desafios da conformidade, mas também promovem uma cultura de responsabilidade e transparência na utilização de IA.

Palavras Finais

O sucesso na conformidade com o Ato de IA da UE requer uma abordagem proativa e estruturada. O foco deve estar nas melhores práticas em gerenciamento de riscos, auditorias, e transparência em IA, estabelecendo um padrão elevado e responsável no desenvolvimento de tecnologia que respeita os direitos individuais enquanto promove inovação.

Conheça mais

• Europa cria referência global com legislação histórica para conter IA
• Regulatory framework for AI by the European Commission
• Como o Ato de IA da União Europeia transforma o mercado de produtos médicos
• Principais pontos da regulamentação europeia sobre inteligência artificial
• Gigantes europeias questionam regulação da UE sobre IA

#AtoDeIAdaUE #RegulamentaçãodeIA #ConformidadedeIA #RegrasdeIA #IAeDireitosIndividuais #TransparênciaemIA #RiscosSistemicosdeIA #RequisitosdeTransparência #PenalidadesporViolação #DesafiosnaImplementação #alegon #cryptoalch