Vinod Khosla disse que o autor do recém-vetado projeto de lei de IA da Califórnia, SB 1047, estava alheio aos verdadeiros perigos da IA e não estava qualificado para ter uma opinião sobre questões de segurança nacional global. O comentário sobre o senador estadual Scott Wiener foi feito durante uma entrevista no palco no TechCrunch Disrupt 2024.

“Ele é alheio aos verdadeiros perigos, que são questões de segurança nacional,” disse Khosla, referindo-se ao senador Wiener, que representa São Francisco na legislatura da Califórnia. “Eu sou um grande apoiador dele quando se trata de seus esforços em habitação e NIMBYismo e coisas do tipo. Então, sou um grande apoiador nessas questões porque são questões locais. Esta é uma questão de segurança nacional global. Ele não está qualificado para ter uma opinião sobre isso.”

O SB 1047 foi um projeto de lei de IA altamente controverso que a legislatura da Califórnia aprovou, mas o governador Newsom vetou diante da oposição de Silicon Valley, Nancy Pelosi e do Departamento de Comércio dos Estados Unidos. O projeto tentava responsabilizar laboratórios de IA pelos perigos mais extremos de seus modelos de IA, mesmo que não fossem eles que os operassem de forma perigosa.

O senador Wiener disse ao TechCrunch que os comentários de Khosla na segunda-feira foram “incrivelmente arrogantes” por sugerir que “apenas tecnólogos de IA e mega investidores têm o direito de ter uma opinião” sobre o impacto social da IA.

“Agradeço o apoio do Sr. Khosla ao meu trabalho em habitação. Para constar, eu não tenho ideia de como construir uma casa, então trabalho com brilhantes especialistas em habitação para elaborar políticas habitacionais inteligentes,” disse Wiener em uma declaração enviada por e-mail ao TechCrunch. “Da mesma forma, ao elaborar e promover o SB 1047, trabalhei com alguns dos principais especialistas em IA do planeta, incluindo Geoffrey Hinton, que pioneirou o aprendizado de máquina e acaba de ganhar o Prêmio Nobel de Física por isso.”

Muitos em Silicon Valley, incluindo Khosla, argumentaram que o SB 1047 faria com que as empresas de tecnologia hesitassem em lançar modelos de IA de ponta na Califórnia, reduzindo, portanto, a vantagem competitiva da América na corrida da IA. Khosla escreveu um artigo de opinião no Sacramento Bee em setembro, argumentando que esse projeto poderia ter um impacto global na segurança nacional da América, estendendo-se além do escopo regulatório de um legislador estadual da Califórnia.

Enquanto isso, Wiener disse anteriormente ao TechCrunch que os capitalistas de risco, incluindo Andreessen Horowitz e Y Combinator, tinham conduzido o que ele chamou de uma campanha de propaganda contra seu projeto de lei. Ele argumentou que desinformação sobre o impacto do SB 1047 e o que o projeto realmente fez, correu solta nos últimos meses, e acusou investidores com interesses próprios de espalhar essa desinformação para fundadores de startups e para a mídia.

Khosla continuou dizendo que adoraria debater com Wiener se ele estivesse aqui. Wiener está programado para falar sobre regulação de IA no Disrupt na quarta-feira, embora o senador tenha sugerido que Khosla devesse debater com o pesquisador de IA, Geoffrey Hinton, que apoiou o SB 1047.

Quais os principais riscos de segurança nacional associados ao uso de IA?

Os principais riscos de segurança nacional associados ao uso de Inteligência Artificial (IA) são variados e complexos, abrangendo várias áreas críticas. Neste artigo, discutiremos os riscos mais significativos que emergem da integração da IA na sociedade moderna, especialmente em contextos relacionados à segurança nacional.

Manipulação e Desinformação

Sistemas de IA podem ser utilizados para criar deepfakes convincentes e disseminar desinformação. Isso pode ser usado para difamar, enganar e comprometer a integridade da informação, afetando diretamente a segurança nacional e a estabilidade social. A manipulação de informações pode gerar desconfiança nas instituições e desestabilizar a ordem pública.

Comprometimento da Segurança Cibernética e Física

A IA poderosa pode ser explorada por atores mal-intencionados para comprometer a segurança cibernética e física. Isso gera impactos potencialmente catastróficos, incluindo a exploração de vulnerabilidades escondidas em sistemas de IA e o uso de IA para ataques cibernéticos. A capacidade de automatizar ataques pode aumentar a escala e a eficácia das ameaças.

Erros e Violações de Privacidade

Modelos de IA podem apresentar resultados tendenciosos ou errados, especialmente se os dados de treinamento forem inadequados. Isso pode levar a decisões prejudiciais, como a negação de empréstimos sem justificativa clara, e violações de privacidade, incluindo a criação de identidades falsas a partir de dados coletados. A falta de transparência nos algoritmos de IA pode exacerbar essas questões.

Dependência Tecnológica e Insegurança Nacional

A dependência de tecnologia avançada, incluindo IA, pode aumentar a insegurança nacional de um país. Isso é especialmente preocupante se houver uma falta de investimento em tecnologia e formação digital. Essa dependência pode levar a uma vulnerabilidade significativa diante de adversários que possam explorar essas tecnologias de forma maliciosa, colocando em risco a soberania nacional.

Comprometimento da Segurança de Infraestruturas Críticas

Sistemas de IA podem ter um impacto crítico em infraestruturas, economia e bem-estar público. Se esses sistemas forem comprometidos ou operados de forma inadequada, podem representar ameaças significativas à segurança nacional e à sociedade em geral. A integridade das redes elétricas, sistemas de transporte e serviços de emergência pode ser severamente afetada.

Regulação e Transparência

A falta de regulamentações eficazes e transparência nos desenvolvimentos de IA pode levar a riscos imprevisíveis e não mitigados. A notificação governamental e o compartilhamento de resultados de testes de segurança são essenciais para garantir que os modelos de IA sejam operados de forma segura e previsível. A regulação adequada é fundamental para proteger a sociedade e garantir que a IA seja utilizada para o bem comum.

Conclusão

Os riscos de segurança nacional associados ao uso de IA são diversos e requerem atenção imediata. A manipulação da informação, a segurança cibernética, as violações de privacidade, a dependência tecnológica, a segurança de infraestruturas e a necessidade de regulação são questões que precisam ser abordadas de forma proativa. A colaboração entre governos, setor privado e sociedade civil é essencial para desenvolver estratégias eficazes que garantam que a IA contribua para a segurança nacional e não a comprometa.

Fontes de pesquisa

• McKinsey – Confrontando os Riscos da Inteligência Artificial
• IG Tecnologia – O Papel da Inteligência Artificial na Segurança Nacional
• Gov.br – Inteligência Artificial: Riscos, Desafios e Oportunidades

Fonte

#AI, #SB1047, #Khosla, #Wiener, #segurançanacional, #SiliconValley, #regulação, #cryptoalch