Y Combinator, curiosamente, as startups não são fãs do projeto de lei de segurança de IA da Califórnia

O capitalista de risco Y Combinator e mais de 140 startups de aprendizado de máquina assinaram uma carta aberta em oposição a uma proposta de lei de segurança de IA que está sendo aprovada pela legislatura da Califórnia.

Na carta, primeiro relatado pelo Politico, os signatários apresentam os mesmos argumentos para a falta de regulamentação da IA ​​​​que foram apresentados inúmeras vezes nos últimos meses: a IA é a próxima revolução industrial, e se a regularmos agora, isso só vai sufocar as inovações que ainda temos que inovar .

“Acreditamos que é necessária uma abordagem mais equilibrada”, argumenta a carta. “Aquele que protege a sociedade de danos potenciais, ao mesmo tempo que promove um ambiente propício ao avanço tecnológico que não é mais oneroso do que outras tecnologias desfrutaram anteriormente”.

“Este projeto de lei, tal como está, pode prejudicar gravemente a capacidade da Califórnia de reter o seu talento em IA e continuar a ser o local de eleição para as empresas de IA”, ameaçam os signatários.

Essas startups estão cobertas pela conta?

Não está imediatamente claro se alguma das startups de IA que assinaram a carta YC seria abrangida pelas disposições do projeto de lei.

Projeto de Lei do Senado da Califórnia 1047, introduzido em fevereiro, pelo senador estadual Scott Wiener, imporia barreiras de proteção e requisitos de transparência em grandes modelos de IA. O projeto de lei os define como aqueles que exigem capacidade de computação superior a 10²⁶ FLOPs ou que custam mais de US$ 100 milhões para serem implementados “usando os preços médios de mercado da computação em nuvem”.

As empresas que controlam uma IA coberta pelo SB 1047 seriam obrigadas a “determinar se podem fazer uma determinação positiva de segurança… antes de iniciar o treinamento desse modelo coberto”, estabeleceriam um novo conselho responsável pela recertificação anual dos modelos de IA cobertos, e exigir que o governo crie um cluster de nuvem pública denominado “CalCompute” para pesquisar a segurança da IA.

De acordo com YC, esses 10²⁶ O limite é totalmente arbitrário e problemático porque “a tecnologia ainda está evoluindo e essas métricas específicas podem não capturar adequadamente as capacidades ou riscos associados a modelos futuros”.

YC disse que a linguagem do projeto de lei é extremamente vaga e pode ser aplicada de forma muito ampla, afirma que é incomum em seus encargos ao atribuir a responsabilidade pelo uso indevido da IA ​​aos desenvolvedores em vez dos usuários, e se opõe ao “interruptor de eliminação da IA” incluído no projeto de lei, que disse “poderia funcionar como uma proibição de facto do desenvolvimento de IA de código aberto”.

Não está claro se algum dos signatários da carta está operando modelos de IA cobertos ou se simplesmente espera que algum dia também possa ser influente o suficiente para justificar uma ação governamental. Perguntamos, mas não recebemos resposta de YC.

O SB 1047 foi aprovado no Senado da Califórnia no mês passado com uma votação de 32-1, com sete abstenções, mas foi fortemente marcado desde que chegou à Assembleia da CA. Na semana passada, foi aprovado na comissão inicial da Assembleia, com oito votos a favor e três abstenções. salsicha disse na semana passada, ele saudou as revisões do projeto de lei que permitem que as agências estaduais alterem o limite de computação para cobertura e dão às empresas de IA flexibilidade sobre como cumprir suas obrigações.

Wiener representa partes de São Francisco que incluem os escritórios da YC.

“Ao adotar uma abordagem leve à regulamentação que se concentra exclusivamente nas maiores empresas que constroem os modelos mais capazes, o SB 1047 coloca barreiras de proteção sensatas contra o risco, ao mesmo tempo que deixa as startups livres para inovar sem quaisquer novos encargos”, disse Wiener.

A carta liderada pelo YC, por outro lado, não acredita que as alterações vão suficientemente longe.

“Nossas principais preocupações sobre o impacto potencial do projeto de lei na inovação e na economia tecnológica da Califórnia permanecem”, disseram os signatários, alertando que o SB 1047 “poderia inadvertidamente ameaçar a vibração da economia tecnológica da Califórnia e minar a concorrência”.

Dito isto, não está totalmente claro o que pode acontecer ao SB 1047 nos próximos meses – poderia muito bem ser aprovado na Assembleia, mas a assinatura do governador da Califórnia, Gavin Newsom, não é uma certeza.

Assinatura não garantida

Newsom expressou algumas das mesmas preocupações incluídas na carta do YC, nomeadamente que a regulamentação excessiva da IA ​​poderia levar as startups a partirem da Califórnia para locais menos propensos a examiná-las.

“Nós dominamos em [the tech] espaço. Quero continuar a dominar este espaço”, disse Newsom disse na Cúpula GenAI em São Francisco no final de maio. “Não quero ceder este espaço a outros estados ou outros países.”

Newsom já vetado Regulamentação de IA, e o SB 1047 pode muito bem ser o próximo na fila para ser jogado na pilha de lenha. No entanto, Newsom também disse que a indústria de IA precisa ser regulamentada de alguma forma – YC e essas startups podem não querer, mas os grandes querem.

“Quando temos os inventores desta tecnologia – as madrinhas e os pais – dizendo ‘ajuda, vocês precisam nos regular’, é um ambiente muito diferente”, disse Newsom. “Eles basicamente dizem[ing] ‘não sabemos realmente o que fizemos, mas você precisa fazer algo a respeito.'”

O escritório de Newsom não respondeu às perguntas.

Wiener, por sua vez, afirma que já tem esses padrinhos, como Geoffrey Hinton e Josué Bengiodo seu lado.

“Quarenta anos atrás, quando eu estava treinando a primeira versão dos algoritmos de IA por trás de ferramentas como ChatGPT, ninguém – inclusive eu – teria previsto até que ponto a IA iria progredir”, disse Hinton em comunicado divulgado pelo escritório de Wiener. “Sistemas poderosos de IA trazem promessas incríveis, mas os riscos também são muito reais e devem ser levados extremamente a sério.” ®