Pelo acordo, as empresas vão investir em tecnologias pra identificar e remover esse tipo de conteúdo. A ElevenLabs, por exemplo, vai bloquear tentativas não autorizadas de clonagem de voz e também fornecer tecnologias de conversão de texto em voz e de voz em texto para o Assistente Eleitoral do TSE. 

Já a OpenAI confirmou que vai oferecer recursos especiais durante as eleições, como ferramentas de checagem de informações e acompanhamento da apuração dos votos. 

O TSE também reforçou as regras para o uso de inteligência artificial nas campanhas. Materiais manipulados ou gerados por IA não poderão ser divulgados perto da votação, chatbots não poderão recomendar candidatos e o uso de óculos inteligentes, como os Ray-Ban Meta, será proibido dentro da cabine de votação. 

Lembrando que as eleições são no dia 4 de outubro, com segundo turno marcado pra 25 de outubro, se necessário. Me segue no Instagram @marcelosander. Por uma internet melhor para todos, até o próximo artigo!

A empresa bloqueou contas, suspendeu meios de pagamento, derrubou sites usados nas fraudes e ainda notificou consultores de marketing que ensinavam maneiras de burlar os sistemas de segurança das plataformas. 

Um dos golpes mais comuns é o chamado “celeb-bait”. Nele, os criminosos usam imagens ou vozes de celebridades para dar credibilidade a anúncios falsos. No Brasil, por exemplo, um grupo usava imagens manipuladas de famosos para vender produtos de saúde fraudulentos. 

Outro foi ainda mais longe e criou deepfakes, vídeos falsos feitos com inteligência artificial, mostrando um médico famoso recomendando produtos que nem tinham aprovação. Já um esquema ligado a uma empresa na China atraía vítimas para falsos investimentos. 

Esse tipo de fraude é conhecido como “pig butchering”: o golpista ganha a confiança da pessoa durante semanas e vai convencendo ela a investir mais dinheiro em plataformas que, no final, simplesmente desaparecem. 

E o tamanho do problema impressiona. Um estudo recente analisou mais de 14 milhões de anúncios nas plataformas da Meta na Europa e descobriu que quase um em cada três levava a golpes, phishing ou malware. Só alguns desses anúncios fraudulentos geraram mais de 300 milhões de visualizações em menos de um mês. 

Muitas dessas operações funcionam quase como empresas do crime, com infraestrutura espalhada pela Ásia. A Meta diz que está desenvolvendo novas ferramentas de inteligência artificial para detectar essas fraudes e também tem trabalhado com autoridades de vários países para desmontar centros de golpes e prender os responsáveis. 

Já encontrou algum anúncio falso como esse no Facebook ou Instagram? Me conta no Instagram @marcelosander. Por uma internet melhor para todos, até o próximo artigo!