Table of Contents
A Importância do Instituto de Segurança em IA dos EUA
Um dos poucos escritórios do governo dos EUA dedicados à avaliação da segurança em inteligência artificial (IA) encontra-se em perigo de ser desmantelado se o Congresso não optar por autorizá-lo. O U.S. AI Safety Institute (AISI), um órgão do governo federal que estuda os riscos em sistemas de IA, foi criado em novembro de 2023 como parte da Ordem Executiva sobre IA do presidente Joe Biden. O AISI opera dentro do NIST, uma agência do Departamento de Comércio que desenvolve diretrizes para a implementação de várias categorias de tecnologias.
A Vulnerabilidade do AISI
Embora o AISI tenha um orçamento, um diretor e uma parceria de pesquisa com seu homólogo no Reino Unido, o AISI pode ser encerrado com uma simples revogação da ordem executiva de Biden.
“Se outro presidente assumir o cargo e revogar a Ordem Executiva sobre IA, eles desmantelarão o AISI”, afirmou Chris MacKenzie, diretor sênior de comunicações da Americans for Responsible Innovation, um grupo de lobby sobre IA. “E [Donald] Trump prometeu revogar a Ordem Executiva sobre IA. Portanto, a autorização formal do Instituto de Segurança em IA pelo Congresso garantiria sua continuidade, independentemente de quem estiver na Casa Branca.”
A Importância da Autorização do Congresso
Além de assegurar o futuro do AISI, a autorização do escritório poderia levar a um financiamento mais estável e de longo prazo para sua iniciativa pelo Congresso. Atualmente, o AISI conta com um orçamento de cerca de $10 milhões — uma quantia relativamente pequena considerando a concentração de grandes laboratórios de IA no Vale do Silício.
“Os apropriadores no Congresso tendem a dar prioridade maior ao orçamento para entidades formalmente autorizadas pelo Congresso”, disse MacKenzie, “com a compreensão de que essas entidades têm um amplo apoio e estão aqui para o longo prazo, em vez de serem apenas uma prioridade única de uma administração.”
Apelo à Ação
Em uma carta datada de hoje, uma coalizão de mais de 60 empresas, organizações sem fins lucrativos e universidades convocou o Congresso a promulgar legislação que codifique o AISI antes do final do ano. Entre os signatários estão OpenAI e Anthropic, ambas as quais assinou acordos com o AISI para colaborar em pesquisa, testes e avaliação de IA.
Desafios e Oportunidades para o AISI
O Senado e a Câmara já avançaram com propostas bipartidárias para autorizar as atividades do AISI. No entanto, as propostas enfrentam alguma oposição de legisladores conservadores, incluindo o Senador Ted Cruz (R-Texas), que pediu que a versão do Senado do projeto do AISI retire programas de diversidade.
Embora o AISI seja uma organização relativamente fraca do ponto de vista de aplicação, com padrões voluntários, think tanks e coalizões do setor — além de gigantes da tecnologia como Microsoft, Google, Amazon e IBM, todos os quais assinaram a carta mencionada — consideram o AISI como a via mais promissora para criar parâmetros de IA que possam formar a base de futuras políticas.
Riscos de Perder Liderança em IA
Há também preocupações entre alguns grupos de interesse de que permitir o fechamento do AISI arriscaria ceder a liderança em IA para nações estrangeiras. Durante um summit de IA em Seul, em maio de 2024, líderes internacionais concordaram em formar uma rede de Institutos de Segurança em IA composta por agências do Japão, França, Alemanha, Itália, Singapura, Coreia do Sul, Austrália, Canadá e da União Europeia, além do Reino Unido e dos EUA.
“À medida que outros governos avançam rapidamente, membros do Congresso podem garantir que os EUA não fiquem para trás na corrida global de IA mediante a autorização permanente do Instituto de Segurança em IA e fornecendo certeza sobre seu papel crítico na promoção da inovação e adoção de IA nos EUA”, disse Jason Oxman, presidente e CEO do Information Technology Industry Council, uma associação comercial da indústria de TI, em um comunicado. “Pedimos ao Congresso que atenda ao apelo de hoje da indústria, da sociedade civil e da academia para aprovar a legislação bipartidária necessária antes do final do ano.”
A TechCrunch possui um boletim informativo focado em IA! Inscreva-se aqui para recebê-lo em sua caixa de entrada toda quarta-feira.
#IA #SegurançaEmIA #AISI #Inovação #Tecnologia #Legislação #Congresso #InteligênciaArtificial #LiderançaGlobal