Investigação expõe mais de 15 mil sites falsos impulsionados por inteligência artificial

Mais de 15 mil sites falsos, majoritariamente impulsionados por inteligência artificial, foram revelados em uma investigação inédita conduzida pelo jornalista francês Jean-Marc Manach. O levantamento, recém-divulgado, expõe um desafio crescente para o jornalismo e o ecossistema de informação global, mostrando como essas plataformas simulam veículos de imprensa para gerar conteúdo e lucrar com algoritmos digitais.

Essa pesquisa detalhada, publicada no site Next.ink, revela que, além da geração automática de textos, muitos artigos nesses domínios fraudulentos são atribuídos a jornalistas fictícios, intensificando a estratégia de engano.

O repórter investigativo Jean-Marc Manach demonstrou que essas plataformas se disfarçam de veículos de imprensa legítimos. Elas publicam notícias totalmente geradas por IA ou reescrevem conteúdo existente de outras fontes, sem atribuição adequada.

Embora a maioria das páginas identificadas fosse em francês, a investigação de Manach também catalogou cerca de 1.500 sites em inglês, 200 em alemão e outros em diferentes idiomas, indicando a escala global do fenômeno.

Lucro com publicidade e audiência digital

Curiosamente, a principal motivação por trás da maioria desses sites falsos não é a disseminação de desinformação intencional. O objetivo primário é financeiro: gerar receita por meio de publicidade digital e capturar tráfego do Google Discover, o influente sistema de recomendação de conteúdo do Google, que representa uma fonte significativa de audiência para portais de notícias.

A lucratividade desse modelo é impressionante; Manach documentou casos em que editores de páginas fraudulentas obtiveram mais de US$ 2 milhões (equivalente a R$ 10 milhões) em apenas três meses.

O estudo aponta que o crescimento desse fenômeno é impulsionado por especialistas em SEO (Search Engine Optimization), a otimização de mecanismos de busca, que manipulam algoritmos para garantir que o conteúdo artificialmente gerado alcance posições de destaque.

Os dados revelam que aproximadamente 75% desses sites falsos são operados por um grupo relativamente pequeno, menos de 300 indivíduos ou pequenas empresas.

Dentre eles, cerca de cem gerenciam redes extensas, com mais de 20 domínios cada, enquanto alguns operadores mais ambiciosos controlam centenas ou até milhares de páginas, todas voltadas para explorar os algoritmos de recomendação e gerar lucros.

Impacto em empresas tradicionais de mídia

A pesquisa também destaca que o problema transcende o universo dos operadores independentes, atingindo até mesmo empresas de mídia tradicionais. Com cortes de pessoal, algumas dessas companhias têm recorrido à inteligência artificial para escalar a produção de conteúdo, chegando a publicar textos assinados por jornalistas inexistentes.

Um caso notável revelado pela investigação envolve um "autor" falso que produzia cerca de 500 textos diariamente. Muitos desses eram variações da mesma notícia, uma tática para maximizar as chances de recomendação em plataformas como Google Discover e MSN.

Samira Castro, presidente da Fenaj (Federação Nacional dos Jornalistas), expressa preocupação: “A concorrência desses sites falsos é profundamente desleal para o jornalismo profissional.”

Ela complementa: “Enquanto veículos comprometidos com o interesse público investem em apuração e equipes qualificadas, esses sites se aproveitam da arquitetura das plataformas digitais para capturar audiência com conteúdos enganosos, que frequentemente têm custos irrisórios ou são totalmente gratuitos.”

Ascensão do conteúdo gerado por IA em plataformas

A pesquisa de Manach também quantifica os fortes incentivos econômicos que impulsionam a criação desses sites falsos, especialmente com o uso intensivo de inteligência artificial.

Em uma etapa do levantamento, constatou-se que 20% dos mil sites mais bem ranqueados no Google Discover eram gerados por inteligência artificial. No Google News, o agregador de notícias da gigante tecnológica, a proporção de páginas desse tipo alcançava um terço entre os 120 principais sites de tecnologia.

Os resultados obtidos por Manach são significativamente maiores do que os de outros estudos de referência no mercado, como o da NewsGuard, uma empresa americana fundada por jornalistas dedicada a avaliar a confiabilidade de portais de notícias.

Desde 2023, a NewsGuard, em seu monitoramento global, havia identificado 3.749 sites falsos em 16 idiomas, um número amplamente superado pela nova investigação.

Metodologia da investigação digital

A equipe do jornalista francês optou por uma metodologia rigorosa, evitando detectores automáticos de IA, considerados por eles como ferramentas pouco confiáveis para a identificação precisa dessas páginas.

Em vez disso, foram empregadas técnicas avançadas de investigação digital e análise de fontes abertas. Isso incluiu o cruzamento de dados como o volume e a frequência de publicações atribuídas a um mesmo autor, a verificação da existência de jornalistas citados, a identificação dos responsáveis legais pelos domínios e a vinculação de múltiplos sites a um único proprietário, entre outros critérios.

Amplo alcance na população francesa

O impacto e o alcance dessas páginas na população são igualmente alarmantes.

Em dezembro, dados da Médiamétrie, empresa francesa de medição de audiência, revelaram que os cerca de 250 sites falsos identificados na época já haviam alcançado um quarto da população francesa. Três meses depois, esse percentual saltou para 40% dos habitantes do país.

A equipe responsável pela investigação decidiu não divulgar publicamente a lista completa dos domínios enganosos.

A justificativa para essa decisão é prevenir que os operadores desses sites falsos utilizem a base de dados para adaptar suas estratégias e evitar futuras identificações.

Em vez disso, os investigadores integraram os domínios a uma extensão gratuita de navegador, compatível com Google Chrome, Edge e Firefox, que alerta o usuário ao acessar uma página identificada no levantamento. A extensão é chamada “Alerte sur les sites GenAI” (alerta para sites de IA generativa).

Samira Castro, da Fenaj, reitera a necessidade de ação: “É fundamental que se estabeleçam regras de transparência para as plataformas e os sistemas de inteligência artificial, incluindo a identificação de conteúdos gerados artificialmente e mecanismos que permitam rastrear sua origem.”

Ela conclui: “Também é necessário responsabilizar economicamente as grandes plataformas e as empresas de IA, que hoje concentram as receitas e utilizam conteúdo jornalístico para treinar seus modelos.” (Maurício Meireles/FOLHAPRESS)