Conexão Digital 1287 - Grok é usado para criar imagens de nudez sem consentimento

Olha só o rolo que o Grok, a IA do X do Elon Musk, arrumou recentemente. Usuários estavam usando a ferramenta pra editar fotos de mulheres e até de menores de idade sem consentimento nenhum, tirando roupa, colocando em biquíni fio dental ou situações super sexualizadas. 

Teve caso de meninas entre 12 e 16 anos em imagens bem inadequadas, o que é crime pesado, tipo material de abuso infantil. As denúncias não eram aceitas porque, segundo a plataforma, não violava as regras do X, que proíbem pornografia com pessoas reais. 

Mas aí depois o Grok admitiu a falha, pediu desculpas e disse que está corrigindo o problema. Vale lembrar que deepfake sexual sem consentimento é ilegal. E isso não é a primeira vez: ano passado já rolou polêmica com imagens falsas de celebridades. 

Enfim, o X está sendo criticado por normalizar esse tipo de abuso com IA, principalmente contra mulheres e crianças. Depois da polêmica de dezembro, agora no início de janeiro, ao pedir pro Grok tirar a roupa da pessoa na foto, ele exibe a imagem de uma outra pessoa qualquer, bem genérica, criada totalmente por inteligência artificial, evitando assim usar o rosto da pessoa real. Menos mal. 

E você, acha que podemos esperar mais polêmicas como essa em 2026, ano eleitoral? Me conta no Instagram @marcelosander. Por uma internet melhor para todos, até o próximo artigo!