O Reino Unido abriu uma investigação contra a rede social X, propriedade de Elon Musk, por permitir a criação de imagens sexuais e deepfakes com o auxílio da Inteligência Artificial Grok. A investigação, conduzida pelo regulador britânico de proteção de dados, Information Commissioner’s Office, visa apurar a ausência de salvaguardas adequadas na plataforma para proteger os dados pessoais dos usuários. A medida ocorre após relatos de que a IA da plataforma teria sido usada para gerar imagens sexuais sem o consentimento das pessoas, incluindo menores de idade, o que caracteriza pornografia infantil.
A investigação britânica é apenas uma das várias ações globais contra a X. No Brasil, o Ministério Público Federal, em parceria com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), recomendou medidas imediatas para barrar a produção e distribuição dos conteúdos. Entre as medidas estão a criação de procedimentos técnicos para identificar, revisar e remover nudes digitais presentes no X, a suspensão imediata das contas envolvidas nos conteúdos, a implementação de mecanismos de denúncia com tempo de resposta adequado e a elaboração de relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético. A X já enfrentou investigações e restrições em vários países, incluindo Indonésia, Malásia, União Europeia, Reino Unido, França e Índia, além do Estado da Califórnia (EUA).
A pressão contra a X se intensificou nesta semana, quando a polícia da França e a Europol fizeram buscas nos escritórios da rede social X e intimaram Elon Musk a depor. Além de Musk, as autoridades também intimaram Linda Yaccarinom, ex-CEO da empresa, a comparecer em uma audiência em 20 de abril, onde ambos devem ser questionados sobre suspeitas de abuso de algoritmos e a criação de ferramentas que possibilitam deepfakes, como o uso da Inteligência Artificial Grok. Em julho, Musk já havia negado as acusações e taxado a operação francesa de “uma investigação criminal motivada politicamente”.
A onda de pressão contra a X reflete a crescente preocupação global com a disseminação de conteúdo ilegal e a proteção de dados pessoais. A investigação britânica e as ações em outros países buscam garantir que as plataformas sociais implementem medidas adequadas para prevenir a criação e disseminação de conteúdo prejudicial. A X ainda não se manifestou oficialmente sobre as investigações e as recomendações feitas pelas autoridades.