COMENTÁRIO

No dia 29 de setembro, o governador da Califórnia, Gavin Newsom, vetou o Senado Bill 1047, o Projeto de Lei de Inovação Segura e Segura para Modelos de Inteligência Artificial de Fronteira. Este projeto visava criar uma estrutura regulatória abrangente para modelos de IA, buscando equilibrar a segurança pública com a inovação. Embora o veto tenha sido um revés para o projeto, ele destaca debates chave no campo emergente da governança da IA e o potencial da Califórnia para moldar o futuro da regulação da IA.

A Influência da Califórnia na Legislação de Tecnologia

Como berço do Vale do Silício, a Califórnia tem sido há muito uma líder na regulação de tecnologia, com suas políticas frequentemente estabelecendo precedentes para outros estados. Por exemplo, a Lei de Privacidade do Consumidor da Califórnia (CCPA) inspirou leis de proteção de dados semelhantes na Virgínia e no Colorado. Com o rápido avanço da tecnologia de IA, os esforços da Califórnia na governança da IA podem ter um impacto duradouro nas estruturas regulatórias nacionais e internacionais, ao mesmo tempo que catalisam os legisladores federais a considerar regulações nacionais de IA, semelhante a como os padrões de emissões de automóveis da Califórnia influenciaram políticas federais.

O Que Está em Jogo

O veto do Gov. Newsom destaca várias questões críticas. Primeiro, o projeto focou apenas em modelos de grande escala, o que pode desconsiderar os perigos apresentados por sistemas de IA menores e especializados. O governador enfatizou a necessidade de regulações baseadas em evidências empíricas de riscos reais, e não no tamanho ou custo dos modelos de IA. Em segundo lugar, ele alertou que regulações rigorosas poderiam sufocar a inovação, especialmente se não acompanhassem a evolução rápida do cenário de IA. O governador defendeu uma abordagem flexível que pudesse se adaptar a novos desenvolvimentos. E, por último, Newsom destacou a importância de considerar se os sistemas de IA estão implantados em ambientes de alto risco ou envolvem tomada de decisão crítica com dados sensíveis, áreas que o projeto não abordou especificamente.

Olhando para o Futuro

Embora isso possa parecer um retrocesso para alguns, o veto permite que a Califórnia continue sua liderança em moldar a política de tecnologia moderna. Para avançar e reconciliar diferenças, a legislatura da Califórnia e o gabinete do governador podem empreender vários esforços colaborativos:

• Estabelecer um grupo de trabalho conjunto com representantes do gabinete do governador, legisladores, especialistas em IA, líderes da indústria e especialistas em ética da IA. Esse grupo pode facilitar discussões abertas para entender as preocupações e prioridades de cada lado.
• Incorporar insights da academia, organizações de pesquisa e do público. A transparência no processo legislativo pode construir confiança e garantir que perspectivas diversas sejam consideradas.
• Deslocar o foco regulatório do tamanho e dos recursos computacionais dos modelos de IA para os riscos reais associados a aplicações específicas. Isso se alinha ao apelo do governador por uma formulação de políticas baseada em evidências.
• Redigir legislação que inclua disposições para revisão e atualizações regulares, permitindo que o arcabouço regulatório evolua juntamente com os avanços tecnológicos rápidos em IA.

União Europeia: Lei de IA

Os legisladores da Califórnia podem usar como referência a legislação de IA existente, como a Lei de Inteligência Artificial da UE. A Lei de IA da UE é uma estrutura legal pioneira e abrangente, projetada para promover a IA confiável enquanto apoia a inovação. Adota uma abordagem baseada em risco, categorizando sistemas de IA em quatro níveis: inaceitável, alto, baixo e mínimo risco. Práticas de risco inaceitável são proibidas, enquanto aplicações de IA de alto risco em áreas como educação, emprego e aplicação da lei enfrentam requisitos rigorosos. A lei exige transparência, obrigando os usuários a serem informados ao interagir com sistemas de IA, como chatbots. Introduz também obrigações para modelos de propósito geral, com foco em gestão de riscos e transparência.

As forças da Lei de IA incluem a cobertura abrangente, garantindo que todas as formas de IA sejam reguladas uniformemente, e sua ênfase na proteção dos direitos fundamentais ao categorizar a IA com base em níveis de risco. Ela incentiva a inovação ao reduzir os ônus regulatórios para aplicações de IA de baixo risco, promovendo assim o desenvolvimento tecnológico. No entanto, a complexidade e os custos da lei podem ser onerosos para pequenas e médias empresas, e há um risco potencial de excesso regulatório, possivelmente prejudicando a inovação.

Conclusão

A Califórnia está na linha de frente enfrentando os desafios e as oportunidades impostas por modelos avançados de IA. A colaboração entre os órgãos governamentais e os stakeholders da indústria é essencial para moldar um arcabouço regulatório que acompanhe a rápida evolução da tecnologia de IA. Ao trabalhar em conjunto com a indústria e outros pensadores, os legisladores podem elaborar um arcabouço flexível e baseado em evidências que garanta a segurança pública enquanto promove a inovação. Assim como nas regulatórias de tecnologia do passado, a Califórnia pode estabelecer um forte precedente para a governança responsável da IA, com sua influência provavelmente se estendendo além das fronteiras estaduais. À medida que a IA continua a evoluir, o mundo acompanhará de perto os esforços da Califórnia, e o verdadeiro sucesso dependerá de proteger o público sem sufocar o potencial transformador da IA.

#InteligênciaArtificial #RegulaçãoTecnológica #InovaçãoSegura #GovernançaDeIA #Califórnia

2024-10-03T18:00:00.000Z
Debrup Ghosh
ref:https://www.darkreading.com/vulnerabilities-threats/future-ai-safety-california-vetoed-bill