Mustafa Suleyman, da Microsoft, diz que ama Sam Altman e acredita que ele é sincero sobre a segurança da IA

Em entrevista no Aspen Ideas Festival na terça-feira, Mustafa Suleyman, CEO da Microsoft AI, deixou bem claro que admira Sam Altman, CEO da OpenAI.

Andrew Ross Sorkin, da CNBC perguntou qual será o plano quando o enorme futuro da IA ​​​​da Microsoft não depender tanto da OpenAI, usando a metáfora de vencer uma corrida de bicicleta. Mas Suleyman evitou.

“Não acredito na metáfora de que existe uma linha de chegada. Este é outro quadro falso”, disse ele. “Temos que parar de enquadrar tudo como uma corrida feroz.”

Ele então seguiu a linha corporativa da Microsoft sobre o acordo de sua empresa com a OpenAI, em onde investiu cerca de US$ 10 bilhões através de alguma combinação de dinheiro e créditos na nuvem. O acordo dá à Microsoft uma grande participação nos negócios com fins lucrativos da OpenAI e permite incorporar seus modelos de IA em produtos da Microsoft e vender sua tecnologia para clientes de nuvem da Microsoft. Alguns relatórios indicam que a Microsoft pode também terá direito a alguns pagamentos OpenAI.

“É verdade que temos uma concorrência feroz com eles”, disse Suleyman sobre a OpenAI. “Eles são uma empresa independente. Não os possuímos nem os controlamos. Nem sequer temos membros no conselho. Então eles fazem inteiramente suas próprias coisas. Mas temos uma parceria profunda. Sou muito amigo do Sam, tenho muito respeito e confiança e fé no que eles fizeram. E é assim que tudo vai acontecer por muitos e muitos anos”, disse Suleyman.

Esta relação próxima/distante é importante para Suleyman professar. Os investidores e clientes empresariais da Microsoft apreciam o relacionamento próximo. Mas os reguladores ficaram curiosos e em abril, a UE concordou que o seu investimento não era uma verdadeira aquisição. Se isso mudar, muito provavelmente também mudará o envolvimento regulatório.

Suleyman diz que confia em Altman na segurança da IA

De certa forma, Suleyman era o Sam Altman da IA ​​antes da OpenAI. Ele passou a maior parte de sua carreira competindo com a OpenAI e é conhecido por seu próprio ego.

Suleyman foi o fundador do pioneiro em IA DeepMind e o vendeu para o Google em 2014. Ele teria sido colocado em licença administrativa após alegações de intimidação de funcionários, como a Bloomberg relatou em 2019, depois mudou para outras funções no Google antes de deixar a empresa em 2022 para ingressar na Greylock Partners como parceiro de risco. Alguns meses depois, ele e Reid Hoffman de Greylock, membro do conselho da Microsoft, lançaram o Inflection AI para construir seu próprio chatbot LLM, entre outros objetivos.

CEO da Microsoft, Satya Nadella tentei, mas não consegui, contratar Sam Altman no outono passado, quando a OpenAI o demitiu e rapidamente o reintegrou. Depois disso, a Microsoft contratou Suleyman e grande parte do Inflection em março, deixando a fachada de uma empresa e um grande cheque. Em sua nova função na Microsoft, Suleyman tem auditado o código OpenAI, A Semafor informou no início deste mês. Como um dos grandes rivais anteriores da OpenAI, ele agora está mergulhando fundo no concorrente inimigo da joia da coroa.

Há ainda outra ruga em tudo isso. A OpenAI foi fundada com a premissa de fazer pesquisas de segurança de IA, para impedir que uma IA maligna de um dia destruísse a humanidade. Em 2023, quando ainda era concorrente da OpenAI, Suleyman lançou um livro chamado “The Coming Wave, Technology, Power and the 21st Century’s Greatest Dilemma” com o pesquisador Michael Bhaskar. O livro discute os perigos da IA ​​e como evitá-los.

Um grupo de ex-funcionários da OpenAI assinou uma carta no início deste mês, descrevendo seus temores de que a OpenAI e outras empresas de IA não estejam levando a segurança o suficiente a sério.

Quando questionado sobre isso, Suleyman também proclamou seu amor e confiança por Altman, mas também que deseja ver tanto a regulamentação quanto um ritmo mais lento.

“Talvez seja porque sou um britânico com tendências europeias, mas não temo a regulamentação da forma como todo mundo parece ter por padrão”, disse ele, descrevendo todas essas acusações dos ex-funcionários como um “diálogo saudável”. .” Ele acrescentou: “Acho ótimo que tecnólogos, empreendedores e CEOs de empresas como eu e Sam, que amo profundamente e considero incrível” estejam falando sobre regulamentação. “Ele não é cínico, ele é sincero. Ele acredita nisso genuinamente.”

Mas ele também disse: “O atrito será nosso amigo aqui. Estas tecnologias estão a tornar-se tão poderosas, serão tão íntimas, estarão tão sempre presentes, que este é um momento em que é bom fazer um balanço.” Se todo esse diálogo retardar o desenvolvimento da IA ​​em 6 a 18 meses ou mais, “é um tempo bem gasto”.

É tudo muito aconchegante entre esses jogadores.

Suleyman quer cooperação com a China, IA nas salas de aula

Suleyman também fez alguns comentários interessantes sobre outras questões. Na corrida da IA ​​com a China:

“Com todo o respeito aos meus bons amigos em DC e no complexo industrial militar, se o quadro padrão for o de que só pode ser uma nova Guerra Fria, então será exactamente isso, porque se tornará uma profecia auto-realizável. Eles vão temer que nós temamos que seremos adversários, então eles têm que ser adversários e isso só vai aumentar”, disse ele. “Temos que encontrar formas de cooperar, ser respeitosos com eles, ao mesmo tempo que reconhecemos que temos um conjunto diferente de valores.”

Por outro lado, ele também disse que a China está “construindo seu próprio ecossistema tecnológico e espalhando-o por todo o mundo. Deveríamos realmente prestar muita atenção.”

Quando questionado sobre sua opinião sobre crianças que usam IA para trabalhos escolares, Suleyman, que disse não ter filhos, encolheu os ombros. “Acho que temos que ter um pouco de cuidado ao temer o lado negativo de cada ferramenta, você sabe, assim como quando as calculadoras surgiram, houve uma espécie de reação instintiva, ah, não, todo mundo será capaz de resolver todos os equações instantaneamente. E isso vai nos deixar mais burros porque não fomos capazes de fazer aritmética mental.”

Ele também prevê um tempo, muito em breve, em que a IA será como uma auxiliar de professor, talvez conversando ao vivo na sala de aula, à medida que as habilidades verbais da IA ​​melhorem. “Como seria para um grande professor ou educador ter uma conversa profunda com uma IA ao vivo e na frente de seu público?”

A conclusão final é que, se quisermos que as pessoas que estão a construir e a lucrar com a IA governem e protejam a humanidade dos seus piores efeitos, podemos estar a estabelecer expectativas irrealistas.