Ação judicial nos EUA acusa empresa de IA de Elon Musk de criar pornografia com imagens de adolescentes
Uma ação coletiva foi movida nesta segunda-feira (17) contra a xAI, empresa de inteligência artificial de Elon Musk, por três adolescentes nos Estados Unidos. A acusação central é que o chatbot da companhia, o Grok, teria sido utilizado para gerar imagens pornográficas das jovens a partir de fotos reais.
O incidente está ligado à onda de deepfakes de mulheres e crianças nuas que se proliferou no final do ano passado. Essas imagens, compartilhadas em redes sociais, causaram indignação global e iniciaram investigações em diversos países, incluindo a Califórnia.
O processo detalha como o chatbot Grok transformou fotos comuns das adolescentes, obtidas em redes sociais e outras fontes, em representações hiper-realistas e sexualizadas. As advogadas das vítimas denunciam que a xAI deliberadamente projetou o Grok para produzir conteúdo explícito com fins lucrativos, sem as proteções adotadas por outras grandes empresas de IA contra a pornografia infantil.
Impacto devastador nas vítimas
A mãe de uma das adolescentes, do estado do Tennessee, relatou em comunicado o horror de ver sua filha ter um ataque de pânico ao descobrir as imagens criadas e espalhadas sem esperança de remoção. A disseminação dessas montagens ocorreu em plataformas como X, Discord e Telegram, e posteriormente migrou para a dark web, servindo como moeda de troca para outros conteúdos de pornografia infantil.
As consequências para as jovens vão além da exposição inicial. Uma das autoras da ação sofre de pesadelos recorrentes, enquanto outra necessita de medicamentos para dormir e teme comparecer à sua própria cerimônia de formatura. O impacto psicológico e emocional **foi profundo e devastador**.
Estudo aponta gravidade do problema com o Grok
Um estudo divulgado pelo Center for Countering Digital Hate revelou a magnitude do problema. Segundo a pesquisa, o Grok gerou aproximadamente **3 milhões de imagens sexualizadas em apenas 11 dias no final de 2025**. Deste total, cerca de **23.000 imagens representavam menores de idade**, o que reforça a gravidade das acusações.
Em resposta ao escândalo e à crescente pressão, a xAI tomou medidas em janeiro, restringindo a geração de imagens pelo Grok exclusivamente para assinantes. No entanto, essa ação não apaga os danos já causados às vítimas, que buscam justiça e responsabilização.
O que diz a ação coletiva
A ação, movida em um tribunal federal em San José, cita o caso de uma pessoa já detida que teria utilizado o chatbot Grok para a criação das imagens. As advogadas das adolescentes enfatizam que a xAI **falhou em implementar salvaguardas adequadas**, diferentemente de outros grandes players no mercado de IA, expondo menores a riscos significativos.
A batalha legal promete ser complexa, mas o objetivo é claro: **trazer à tona a responsabilidade das empresas de tecnologia** na criação e disseminação de conteúdos prejudiciais, especialmente quando envolvem crianças e adolescentes. A sociedade aguarda os desdobramentos deste caso que levanta sérias questões éticas sobre o desenvolvimento da inteligência artificial.
