Gary Marcus propõe boicote generativo à IA para pressionar por regulamentação e domar o Vale do Silício

Entrevista Gary Marcus, professor emérito da Universidade de Nova Iorque e empreendedor em série, é autor de vários livros, o mais recente dos quais critica a indústria tecnológica por desenvolver de forma irresponsável a IA generativa e colocar a democracia em risco.

O Registro recentemente se correspondeu com Marcus para saber mais sobre seu trabalho e suas preocupações.

O Registro: O título do seu novo livro é Domando o Vale do Silício: como podemos garantir que a IA funcione para nós. Por que o Vale do Silício precisa ser domesticado?

Marcos: Porque (a) eles perderam o rumo e percorreram um longo caminho desde “Não seja mau” e (b) estão se tornando cada vez mais poderosos, quase sem restrições.

O Registro: O Vale do Silício pode ser domesticado? Ou terá que se esgotar queimando capital de risco? Mesmo quando há evidências claras e persistentes de danos – redes sociais e saúde pública, criptomoeda/IA e meio ambiente – a preocupação pública e a pressão regulatória parecem dificilmente capazes de mover a agulha.

Marcos: Foi por isso que escrevi o livro. Precisamos de MAIS pressão pública. Foi isso que acabou reduzindo enormemente o tabagismo e as mortes por tabagismo. Sem mais pressão pública, muito pouco será feito nos EUA para proteger os cidadãos da IA ​​cada vez mais invasiva e problemática.

O Registro: Seu livro cita uma dúzia de preocupações sobre o que é conhecido como inteligência artificial. Qual é o problema mais preocupante para você?

Marcos: A ameaça à democracia proveniente de desinformação e deepfakes gerados automaticamente.

O Registro: Muitas das preocupações sobre a IA – falsificação de identidade, desinformação, fraude, preconceito, etc. – são graves devido à facilidade com que a informação pode ser divulgada sem responsabilização ou transparência. O famoso The New Yorker desenho animado de 1993“Na internet, ninguém sabe que você é um cachorro”, passou a significar que ninguém sabe se você é um trapaceiro pago, um cibercriminoso ou um bot de IA projetado para promover uma agenda política. A distribuição gratuita, global e instantânea de conteúdo deveria ter salvaguardas mais fortes que tornassem mais fácil responsabilizar os malfeitores? Existem outras opções focadas na distribuição, como limitar o alcance de contas individuais a não mais do que um número X de pessoas?

Marcos: Acho que essas são perguntas difíceis. Uma coisa que gostaria de acrescentar à sua análise, que é bastante astuta, é que devemos tratar a desinformação produzida em massa de forma diferente do discurso individual dos cidadãos. Uma coisa é o meu vizinho ter uma opinião da qual discordo, outra é um governo estrangeiro ou um fraudador de ações gerar bilhões de mentiras por dia para mudar a opinião pública ou bombear ações.

O Registro: O que você acha do esforço para colocar IA generativa em todos os produtos de plataforma de tecnologia? A Microsoft tem seu Co-piloto produtos. A Apple está prestes a lançar Inteligência da Apple. O Google tem seu Visão geral da IA na Pesquisa. Existe mercado para tantos resumos e sugestões?

Marcos: A sumarização certamente tem sua utilidade, mas (a) a IA generativa não é tão confiável nisso, muitas vezes deixando coisas importantes de fora e às vezes inventando coisas, e (b) tornou-se uma mercadoria que muitos modelos de muitas empresas podem fazer, portanto, há uma guerra de preços e, portanto, não há muito dinheiro a ser ganho.

De forma mais ampla, todos estão pressionando a GenAI para tentar recuperar os seus imensos investimentos, mas as coisas não estão indo muito bem. Em 2023 não houve nada além de entusiasmo; em 2024 vejo muita desilusão.

O Registro: O que você acha do Google usar IA para fornecer resultados de pesquisa?

Marcos: Presumo que você queira dizer GenAI; eles usaram IA desde o início. Seu uso de GenAI para pesquisa tem sido problemático até agora, presumivelmente devido aos limites inerentes à confiabilidade dos LLMs.

O Registro: Onde a IA é genuinamente útil?

Marcos: Pesquisa tradicional na web, sistemas de navegação GPS, mecanismos de recomendação, dobramento de proteínas. Mas nenhum deles é GenAI (exceto o dobramento de proteínas, que é um híbrido de GenAI e IA clássica). O próprio GenAI tem sido um tanto útil para codificação, mas com algumas dívidas técnicas, etc. e útil para brainstorming, arte conceitual e esse tipo de coisa. Mas extremamente exagerado.

O Registro: Uma postagem individual no Facebook sob o nome de Joseph Browning recentemente observado: “O objetivo subjacente da IA ​​é permitir que a riqueza acesse habilidades, ao mesmo tempo que remove das habilidades a capacidade de acessar riqueza.” Essa é uma formulação justa? E, em caso afirmativo, tem ideias sobre como podemos enfrentar o desafio colocado pela capacidade de capturar o trabalho digital de outra pessoa e vendê-lo continuamente, sem compensar a fonte e, ao mesmo tempo, mercantilizar esse trabalho?

Marcos: Isso só é verdade para uma vertente da IA, não para todas. Os sistemas de navegação GPS não estão substituindo os humanos, mas são IA.

Mas sim, estou profundamente preocupado com a forma como o trabalho criativo está essencialmente a ser roubado em grande escala, e se deixarmos as empresas GenAI escapar impunes, acabarão por procurar fazer o mesmo para todas as profissões.

O Registro: Qual é o aspecto mais incompreendido da IA? A fusão de previsão com inteligência?

Marcos: Muitas pessoas pensam que, porque os chatbots soam como humanos, eles pensam como humanos, quando na verdade estão apenas imitando (de uma forma bastante sofisticada) aquilo em que foram treinados. E, falando no seu ponto de vista, prever a próxima palavra é sem dúvida um elemento da inteligência, mas muitos outros aspectos da inteligência, como o raciocínio e o planeamento, faltam nos sistemas actuais.

O Registro: Grande parte do foco atual daqueles que oferecem IA como API são os agentes LLM. No entanto, a automação de software já existe há anos, como macros, scripts e assim por diante. Há razões para acreditar que a automação declarativa baseada em LLM e o encadeamento de tarefas serão mais amplamente úteis do que o antigo tipo imperativo de automação programada?

Marcos: Acho que as pessoas vão se decepcionar. Seria fabuloso poder contratar agentes para fazer o que você deseja com base em solicitações de linguagem natural, mas a tecnologia atual é muito instável para fazer isso funcionar bem.

O Registro: Os modelos de IA que afetam o público devem ser obrigados a divulgar os seus dados de formação?

Marcos: Sim. Discuto longamente a transparência em Domando o Vale do Silício, e isso inclui a transparência em torno dos dados de treinamento, porque tudo sobre os modelos (por exemplo, preconceito) depende desses dados, e a comunidade científica não pode mitigar os danos se não entendermos o que está dentro .

O Registro: Que resultado você espera dos vários processos judiciais em andamento sobre IA generativa, movidos por autores de livros, músicos, artistas visuais e desenvolvedores de software? E que resultado você acredita que seria desejável?

Marcos: Espero que as empresas GenAI sejam forçadas a licenciar as suas matérias-primas, tal como os serviços de streaming, e isso é um bom resultado.

O Registro: Há motivos para esperar uma regulamentação significativa da IA ​​que não seja diluída por lobby e uma aplicação significativa dessa regulamentação? Apesar de várias décadas de preocupação com a privacidade online, pouco mudou nos EUA – ainda não temos uma lei nacional de privacidade. E quando grandes empresas de tecnologia são multadas por erros de privacidade, os valores são triviais.

Marcos: Na verdade, não estou optimista em relação aos EUA; os nossos cidadãos têm muito menos protecção em relação à privacidade do que os nossos homólogos europeus, e muito menos protecção do que em relação à IA. A menos que os nossos cidadãos se pronunciem – muito mais alto do que o fizeram – será assim que as coisas permanecerão e ficaremos bastante vulneráveis. Isso é exatamente por que escrevi o livro: para encorajar os cidadãos a agir, talvez até boicotar a GenAI até que esta coloque a sua casa em ordem. ®