FBI e policiais cibernéticos eliminam cerca de 1 mil robôs russos de desinformação do Twitter

O FBI e agências de segurança cibernética no Canadá e na Holanda derrubaram uma fazenda de bots do Twitter com quase 1.000 membros, supostamente criada pela estatal russa RT News, que usava IA generativa para espalhar desinformação para americanos e outros.

Os investigadores internacionais de crimes apreenderam dois domínios da web e 968 contas X que eram partes integrantes da fazenda de bots, disse o Departamento de Justiça dos EUA em um comunicado. declaração Terça-feira. Disseram-nos que as contas X foram usadas para “semear discórdia nos Estados Unidos e em outros lugares”, na esperança de fazer com que as pessoas brigassem entre si e desconfiassem umas das outras, o que seria conveniente para o Kremlin.

Para desmantelar a operação, o FBI trabalhou com a Força Nacional de Missão Cibernética dos Estados Unidos (CNMF), o Centro Canadense de Segurança Cibernética (CCCS), o Serviço Geral de Inteligência e Segurança dos Países Baixos (AIVD), o Serviço Militar de Inteligência e Segurança dos Países Baixos (MIVD) e a Polícia dos Países Baixos.

Além disso, X trabalhou com o governo federal para suspender contas que supostamente faziam parte da rede de desinformação.

Os promotores dos EUA dizem que a fazenda de bots do Twitter foi formada pela RT News Network – também conhecida como Russia Today, uma rede de mídia estatal e veículo de propaganda do Kremlin – e então operada pela contrainteligência russa. Em particular, os federais dizem que o “Indivíduo A”, descrito pelos americanos como “o editor-chefe adjunto da RT”, foi supostamente responsável por montar a fazenda de bots no início de 2022.

O indivíduo A é acusado de supervisionar esforços para desenvolver software que seria capaz de espalhar desinformação “em larga escala” por meio de bots. Para esse fim, o jornalista supostamente recrutou um desenvolvedor russo chamado “Indivíduo B”, que também ainda não foi nomeado. declaração juramentada [PDF] escrito por um agente do FBI, que lista todas as contas de bots já desativadas, alegou que o programador acusado fez grandes esforços para esconder sua identidade, tendo criado pelo menos três personas fictícias.

O depoimento afirma que o Indivíduo B começou a construir a fazenda de bots comprando um nome de domínio americano da Namecheap com Bitcoin em abril de 2022.

No início de 2023, um agente do Serviço Federal de Segurança (FSB) começou a usar o bot farm com a aprovação do governo russo, que também ofereceu suporte financeiro, alega-se. A operação então se expandiu para envolver vários agentes do FSB.

Fazenda de bots assistida por IA generativa, segundo o governo federal

Não é mencionado quando exatamente a fazenda de bots começou a operar para valer, mas de acordo com o depoimento sobre a apreensão das 968 contas X, as mais antigas foram criadas em junho de 2022.

De acordo com um consultivo [PDF] escrito pelas agências que derrubaram a fazenda de bots, a operação da RT supostamente usou um software chamado Meliorator.

“O Meliorator foi projetado para ser usado em redes sociais para criar personas aparentemente ‘autênticas’ em massa”, afirma o comunicado, “permitindo a propagação de desinformação, o que poderia ajudar a Rússia a exacerbar a discórdia e tentar alterar a opinião pública como parte de operações de informação”.

O software só funcionava com o X quando a fazenda de bots foi desativada, embora o governo federal suspeite que havia planos para torná-lo compatível com outras plataformas no futuro.

Meliorator interagiu com outro pedaço de software, chamado Taras, que criou e operou automaticamente as contas falsas usando o que são chamados de “almas” e “pensamentos”, é alegado. Uma conta seria criada com uma alma gerada aleatoriamente, que definiria a personalidade da saída do bot, e então pensamentos atribuídos, que direcionariam os bots a executar ações e interagir com outras contas. Tudo isso é supostamente alimentado por modelos de IA generativos.

Os federais disseram que descobriram que havia três formas gerais de soul: uma com um perfil completamente preenchido com nome, informações pessoais e fotos geradas por uma ferramenta de código aberto que usa IA para criar dados falsos e usada para espalhar opiniões políticas vocalmente; outro arquétipo com muito pouca informação usado para curtir postagens de outros bots; e um terceiro projetado para parecer muito real, ganhar muitos seguidores e aumentar o sinal de conteúdo postado por bots e contas reais.

A fazenda de bots implementou várias estratégias para evitar ser pega, como fazer com que os bots seguissem grandes contas com mais de 100.000 seguidores e contas com opiniões que correspondiam à alma correspondente, usando endereços IP de proxy individuais para cada alma e ignorando as medidas de identificação de bot do X.

No entanto, a fazenda de bots provavelmente cometeu um grande erro ao registrar suas 968 contas X por meio dos dois domínios que possuía, e isso provavelmente tornou muito fácil para o governo federal e o X encontrarem todas elas, segundo consta.

O registro entrou em contato com a RT News para saber se as alegações eram verdadeiras, e a emissora russa apenas nos disse: “A agricultura é um passatempo adorado por milhões de russos.” ®