Basta um comando: \u201cTire a roupa dela\u201d. Em menos de 5 segundos, a intelig\u00eancia artificial Grok \u2014 integrada ao X desde 2024, a rede social de Elon Musk, antes conhecida como Twitter \u2014 transforma uma foto comum em conte\u00fado \u00edntimo que nunca existiu.<\/p>\n
N\u00f3s testamos a ferramenta dispon\u00edvel para usu\u00e1rios da plataforma, e o resultado \u00e9 assustador. A partir da imagem de uma pessoa vestida, o sistema gerou vers\u00f5es ultrarrealistas que mostram a mesma pessoa de suti\u00e3, nua, ou com apar\u00eancia mais jovem.<\/p>\n
O processo de manipula\u00e7\u00e3o acontece sem aviso. Sem restri\u00e7\u00e3o. Sem modera\u00e7\u00e3o. A experi\u00eancia da reportagem se deu ap\u00f3s mulheres denunciarem a cria\u00e7\u00e3o facilitada de deepfakes \u2014 conte\u00fados de m\u00eddia manipulados por IA \u2014 pornogr\u00e1ficos, ou deepnudes, na rede social.<\/p>\n
Em apenas um dia de monitoramento (5 a 6 de janeiro), o Grok gerou cerca de 6.700 posts por hora com imagens sexualizadas no X \u2014 85 vezes mais do que o registrado no mesmo per\u00edodo em outras cinco plataformas de IA generativa, que somadas produziram 79 publica\u00e7\u00f5es por hora, segundo a consultora Genevieve Oh.<\/p>\n
Ap\u00f3s a repercuss\u00e3o negativa, Musk anunciou na quarta-feira (14) que restringiu a capacidade do Grok de \u201cgerar imagens de pessoa de biqu\u00edni, roupas \u00edntimas ou semelhantes\u201d em pa\u00edses onde isso \u00e9 considerado ilegal.<\/p>\n
Um dia depois, na quinta (15), o Instituto de Defesa do Consumidor (Idec) protocolou uma den\u00fancia na Autoridade Nacional de Prote\u00e7\u00e3o de Dados (ANPD), apontando poss\u00edveis infra\u00e7\u00f5es \u00e0 Lei Geral de Prote\u00e7\u00e3o de Dados (LGPD) relacionadas ao uso indevido de dados pessoais na cria\u00e7\u00e3o de deepfakes e de imagens sexualizadas sem o consentimento dos titulares.<\/p>\n
Nesta ter\u00e7a, 20.jan, MPF, ANPD e Senacon recomendaram ao X a ado\u00e7\u00e3o de medidas imediatas para impedir o uso do Grok na cria\u00e7\u00e3o de deepfakes com imagens de pessoas reais, especialmente mulheres, crian\u00e7as e adolescentes. As institui\u00e7\u00f5es pedem bloqueio de novas gera\u00e7\u00f5es, remo\u00e7\u00e3o de conte\u00fados j\u00e1 publicados, suspens\u00e3o de contas envolvidas e cria\u00e7\u00e3o de mecanismos eficazes de den\u00fancia. O descumprimento pode levar a medidas administrativas e judiciais.<\/p>\n
O caso repercutiu e gerou investiga\u00e7\u00f5es em diversos pa\u00edses. Mas especialistas e v\u00edtimas ouvidas pela reportagem s\u00e3o un\u00e2nimes: o Grok exp\u00f4s um problema muito mais antigo e sistem\u00e1tico.<\/p>\n
O terror de Clarice (nome fict\u00edcio), de 26 anos, come\u00e7ou enquanto fazia as compras de Natal, em dezembro de 2023. No mercado, seu celular vibrou com uma notifica\u00e7\u00e3o de mensagem do Facebook. Ao abrir, um v\u00eddeo de um homem se masturbando enquanto olhava para uma foto comum que ela havia postado nas redes sociais.<\/p>\n
A pr\u00e1tica tem nome nos f\u00f3runs masculinistas: tribute (tributo, em tradu\u00e7\u00e3o livre). \u201cPegam uma foto normal e fazem um v\u00eddeo se masturbando. A minha foto estava no notebook dele. Ele filmou isso e me mandou\u201d, relembra Clarice. Semanas depois, recebeu outra mensagem similar.<\/p>\n
Meses se passaram sem novos incidentes. At\u00e9 que, em maio de 2024, come\u00e7ou a receber pelo WhatsApp mensagens de n\u00fameros estrangeiros \u2014 sempre de madrugada. Desta vez, n\u00e3o eram apenas tributes. Eram v\u00eddeos dela, em contextos sexualizados, criados com intelig\u00eancia artificial.<\/p>\n
A facilidade em criar os deepfakes era tamanha que \u201ceu postava uma foto no Instagram e [em instantes] ele [o agressor] me mandava a foto que eu tinha postado. Eu ficava: \u2018Meu Deus do c\u00e9u, essa pessoa t\u00e1 me perseguindo’\u201d.<\/p>\n
A inseguran\u00e7a digital teve contornos f\u00edsicos: \u201cmeu marido sa\u00eda para trabalhar \u00e0s 6 horas da manh\u00e3, eu voltava para o nosso quarto e ficava l\u00e1 trancada o m\u00e1ximo de tempo que conseguia. S\u00f3 sa\u00eda para usar o banheiro e para comer.\u201d<\/p>\n
Para Alice Lana, advogada, pesquisadora e autora dos livros \u201cNudez na Internet: corpo, g\u00eanero e direito\u201d e \u201cMulheres Expostas: revenge porn, G\u00eanero e o Marco Civil da Internet\u201d, \u201cdesde que come\u00e7aram a existir ferramentas de edi\u00e7\u00e3o de imagem como o Photoshop, esse tipo de pr\u00e1tica j\u00e1 existe\u201d.<\/p>\n
\u201cO que a IA fez foi facilitar \u2014 diminuir os degraus, a fric\u00e7\u00e3o. E parece que \u00e9 pouco, s\u00f3 facilitar, mas n\u00e3o \u00e9\u201d, alerta. O que antes exigia conhecimento t\u00e9cnico e horas de trabalho, hoje leva segundos e est\u00e1 ao alcance de qualquer pessoa disposta a pagar uma assinatura mensal.<\/p>\n
No caso de Clarice, a demonstra\u00e7\u00e3o de poder foi literal. Ela descobriria mais tarde que os deepfakes faziam parte de um ecossistema organizado que envolvia Twitter (atual X), Telegram e at\u00e9 sites pornogr\u00e1ficos especializados em hospedar conte\u00fado manipulado.<\/p>\n
\u201cNo Twitter existem muitos perfis dedicados a isso. O perfil que usavam para compartilhar minhas fotos se chamava \u2018C_Tribute’\u201d, conta Clarice, referindo-se \u00e0 inicial de seu nome verdadeiro seguida da palavra tribute. \u201cEra espec\u00edfico para mim.\u201d<\/p>\n
Esses perfis funcionam como vitrines que redirecionam para grupos no Telegram onde h\u00e1, tamb\u00e9m, um esquema de distribui\u00e7\u00e3o paga. No caso de Clarice, \u201cele criava as fotos, pagava para que os caras fizessem [o tribute] e me mandassem\u201d, explica.<\/p>\n
A cada mensagem recebida, Clarice abria um boletim de ocorr\u00eancia. No total, foram mais de 15 registros e mais de 40 n\u00fameros bloqueados. \u201cEu me senti muito invadida. Senti como se algu\u00e9m tivesse me vendido\u201d, resume.<\/p>\n
Ao N\u00facleo, a assessoria do Telegram disse que \u201ca distribui\u00e7\u00e3o de pornografia n\u00e3o consensual \u00e9 expressamente proibida pelos termos de servi\u00e7o do Telegram e esse tipo de conte\u00fado \u00e9 rotineiramente removido sempre que detectado\u201d.<\/p>\n
Se voc\u00ea tiver conhecimento de algum chat que distribua pornografia n\u00e3o consensual, agradeceria muito se voc\u00ea pudesse compartilhar os links para que os moderadores possam investigar.<\/p>\n
Por favor, sinta-se \u00e0 vontade para usar tamb\u00e9m este posicionamento:<\/p>\n
A distribui\u00e7\u00e3o de pornografia n\u00e3o consensual \u00e9 expressamente proibida pelos termos de servi\u00e7o do Telegram e esse tipo de conte\u00fado \u00e9 rotineiramente removido sempre que detectado. Moderadores, com o aux\u00edlio de ferramentas de IA personalizadas, monitoram proativamente as \u00e1reas p\u00fablicas da plataforma e aceitam den\u00fancias para remover milh\u00f5es de conte\u00fados diariamente que violam nossos termos de servi\u00e7o, incluindo pornografia n\u00e3o consensual.<\/p>\n
Desde 2018, o Telegram tem sido capaz de divulgar os endere\u00e7os IP e n\u00fameros de telefone de criminosos em resposta a solicita\u00e7\u00f5es legais v\u00e1lidas, o que auxilia as investiga\u00e7\u00f5es policiais.<\/p>\n
Estat\u00edsticas di\u00e1rias e mais informa\u00e7\u00f5es est\u00e3o dispon\u00edveis aqui.<\/p>\n<\/div>\n<\/div>\n
A reportagem tamb\u00e9m tentou contato com o X, mas a empresa n\u00e3o tem mais assessoria de imprensa. Elon Musk tem se manifestado sobre o tema pelo pr\u00f3prio perfil na rede.<\/p>\n
Em outubro de 2024, J\u00falia (nome fict\u00edcio) percebeu um movimento at\u00edpico na sua conta do Instagram: uma enxurrada de novos seguidores homens. N\u00e3o havia raz\u00e3o aparente para aquilo, j\u00e1 que utiliza as redes para divulgar o pr\u00f3prio trabalho como corretora de im\u00f3veis, falar sobre viagens e produtos de beleza.<\/p>\n
At\u00e9 que um deles \u201cvirou para mim e falou: \u2018olha, est\u00e3o divulgando essas imagens aqui e associando a voc\u00ea no Telegram\u2019, s\u00f3 que \u00e9 n\u00edtido que n\u00e3o \u00e9 voc\u00ea’\u201d, relembra J\u00falia.<\/p>\n
O que viu foi assustador: fotos com seu rosto, mas em contextos que ela nunca viveu. Com um corpo que n\u00e3o era o seu, em poses que tamb\u00e9m n\u00e3o eram as suas. Eram \u201cimagens de uma viagem que fiz e, com IA, atribu\u00eda a cenas pornogr\u00e1ficas em v\u00eddeo, al\u00e9m de pegar v\u00eddeos de outras mulheres cacheadas e associar a mim\u201d. Junto do conte\u00fado, inseriam o TikTok e Instagram de J\u00falia.<\/p>\n
Os ataques seguiram dia ap\u00f3s dia e quando \u201ca pessoa viu que eu n\u00e3o fechei as redes sociais, que eu n\u00e3o fingi que nada estava acontecendo, come\u00e7ou a divulgar o meu n\u00famero de telefone. E a\u00ed eu descobri que fez uma conta no Tinder com o meu n\u00famero e tava l\u00e1 tamb\u00e9m divulgando essas fotos\u201d.<\/p>\n
J\u00falia tentou buscar ajuda na Delegacia de Repress\u00e3o a Crimes de Inform\u00e1tica (DRCI) do Rio de Janeiro, acompanhada de um advogado, mas \u201celes me falaram que n\u00e3o poderiam fazer nada, que era s\u00f3 mais um caso, que do jeito que eu levei os prints, n\u00e3o dava para rastrear e que eles n\u00e3o faziam o boletim de ocorr\u00eancia l\u00e1\u201d, lembra.<\/p>\n
\u201cE a\u00ed \u00e9 onde entra o questionamento, n\u00e9. Se a delegacia que \u00e9 especializada em crime digital n\u00e3o pode ajudar uma mulher que est\u00e1 passando por uma situa\u00e7\u00e3o dessa, o que eu fa\u00e7o?\u201d, questiona.<\/p>\n