Governador da Califórnia faz onda de assinaturas de leis de IA, mas hesita em assinar a grande lei
O governador da Califórnia, Gavin Newsom, sancionou cinco projetos de lei relacionados à IA esta semana, mas um projeto fundamental continua sem assinatura, e o político democrata não tem certeza sobre seu futuro.
Falando com o CEO da Salesforce, Marc Benioff, ontem na conferência Dreamforce da empresa, Newsom expressou dúvidas sobre se Projeto de Lei do Senado 1047 foi a abordagem correta para uma ampla regulamentação da indústria de IA.
O SB 1047, que imporia uma série de barreiras de proteção e requisitos de transparência em grandes modelos de IA, tem sido divisivo no Golden State desde que foi introduzido em fevereiro pelo senador estadual Scott Wiener. De um lado está a indústria de IA, que tem resistiu ao projeto de lei e chamou-o de pesado; do outro lado está o público, que tem amplamente apoiado a conta como está escrita.
O projeto de lei colocaria uma série de requisitos para empresas de IA, mas apenas as maiores empresas com os maiores modelos são cobertas. As únicas coisas sobre as quais o SB 1047 cria poderes de execução são “modelos de fronteira”, que ele define como aqueles que exigem mais de 1026 FLOPS para construir, ou custar mais de US$ 100 milhões, com base nos preços médios de mercado, para treinar.
As empresas que treinam esses modelos seriam obrigadas a relatar o potencial de sua IA de causar danos críticos, definir proteções para evitar tais danos e incluir interruptores de segurança na IA para evitar que eles fiquem descontrolados.
O setor de IA já conseguiu fazer diversas mudanças no projeto de lei, estabelecendo limites para penalidades de execução, eliminando disposições de perjúrio por mentir sobre modelos de IA e outras suavizações de linguagem e requisitos.
Newsom, que tem o SB 1047 em sua mesa há mais de uma semana, ainda parece incerto sobre qual lado tomar. Falando com Benioff, Newsom disse que a Califórnia passou os últimos dois anos trabalhando para criar uma “regulamentação racional que apoie a tomada de riscos, mas não a imprudência”, e ele não tem certeza se o SB 1047 é o ajuste certo para essa filosofia.
A regulamentação é “desafiadora agora neste espaço, particularmente com o SB 1047, por causa do tipo de impacto descomunal que a legislação pode ter e do efeito inibidor, particularmente na comunidade de código aberto”, disse Newsom a Benioff.
Newsom não hesita em vetar a regulamentação da IA, tendo regulamentos mortos que exigiria que caminhões autônomos tivessem operadores humanos no ano passado. Seu raciocínio o tempo todo foi que se a indústria de IA for pressionada demais, ela pode fugir da Califórnia e levar seus bilhões em financiamento com ela.
“Nós dominamos em [the tech] espaço. Quero continuar a dominar neste espaço”, Newsom disse em maio. “Não quero ceder esse espaço para outros estados ou outros países.”
O que isso significa para o futuro do SB 1047 não está claro. Entramos em contato com os escritórios de Newsom e Wiener para comentar, mas não obtivemos resposta.
Newsom assina cinco leis de IA em uma onda de uso de canetas
Deixando de lado o futuro incerto do SB 1047, Newsom também está perfeitamente disposto a assinar a regulamentação de IA que ele acha apropriada – ele assinou cinco desses projetos de lei somente ontem.
Dois dos projetos de lei centram-se na proteção de atores contra o uso indevido de sua imagem por meio de IA, Projetos de Lei da Assembleia 2602 e 1836. O primeiro exige que os contratos especifiquem qualquer uso potencial de réplicas digitais geradas por IA da imagem ou voz de um ator, enquanto o último proíbe o uso de réplicas digitais de artistas falecidos sem o consentimento de seus espólios.
“Continuamos a percorrer território desconhecido quando se trata de como a IA e a mídia digital estão transformando a indústria do entretenimento, mas nossa estrela-guia sempre foi proteger os trabalhadores”, disse Newsom. disse. “Esta legislação garante que a indústria possa continuar prosperando ao mesmo tempo em que fortalece as proteções para os trabalhadores e como suas imagens podem ou não ser usadas.”
Os outros três projetos de lei sobre IA, assinado no palco na Dreamforce, todos se concentram em prevenir a disseminação de informações eleitorais incorretas geradas ou modificadas por IA.
Sobre 2655 exige que grandes plataformas online (aquelas com mais de um milhão de usuários californianos nos últimos 12 meses) removam ou rotulem “conteúdo enganoso e alterado ou criado digitalmente” durante os 120 dias que antecedem uma eleição e por 60 dias depois disso.
Sobre 2839 torna ilegal distribuir intencionalmente conteúdo enganoso ou alterado relacionado a uma eleição dentro do mesmo período da AB 2655 e expande o escopo da lei existente para proibir conteúdo enganoso sobre autoridades políticas, candidatos e trabalhadores eleitorais.
Sobre 2355finalmente, exige a divulgação do uso de IA em qualquer material de campanha. Todas as três leis incluem disposições para vítimas e outros entrarem com ação civil ou medida liminar.
“Há muitos deepfakes por aí. Não há muita divulgação ou rotulagem”, disse Newsom sobre as três leis antes de tirá-las do paletó e assiná-las sob aplausos. “Por que desperdiçar seu tempo com um político, a menos que ele faça algo por você?” ®
