O Ministério da Justiça e Segurança Pública identificou 32 sites que oferecem ferramentas de inteligência artificial voltadas à alteração de fotografias para criar imagens falsas de nudez (nudificação). As páginas são acessíveis mediante simples pesquisa em navegadores de uso corrente e sem a necessidade de identificação ou verificação etária.
O mapeamento, feito pela Secretaria Nacional de Direitos Digitais (Sedigi), consta em nota técnica datada desta segunda-feira (13).
Segundo o material, por não operarem em lojas de aplicativos, essas páginas escapam dos filtros de moderação e dos termos de serviço desses ambientes, ampliando seu o acesso, muitas vezes sem exigência de cadastro ou de checagem de idade. “Como o uso dispensa download ou instalação, bastando uma URL e um navegador comum, ampliam-se as condições de acesso e de anonimato do usuário, o que dificulta a auditoria e a responsabilização de quem gera o conteúdo”, informa o MJ.
Leia também: Em 2 meses, governo Lula provoca prejuízo de R$ 3 bi ao crime organizado
Como providência, a nota técnica recomenda o encaminhamento das informações à Polícia Federal (PF) e à Secretaria Nacional de Segurança Pública (Senasp), para análise da eventual ocorrência de ilícitos penais e a adoção das medidas cabíveis.
Também sugere o envio do material à Agência Nacional de Proteção de Dados (ANPD), para as providências de fiscalização e apuração de possíveis infrações relacionadas à garantia dos direitos dos usuários e ao cumprimento dos deveres dos provedores de aplicações de internet.
Funcionamento
Em geral, os sites analisados oferecem algumas imagens, com marca d’água ou em baixa resolução, como forma de atrair o usuário que, para obtê-las em alta, em maior número ou sem marcações, precisa pagar pelo serviço.
Uma das dificuldades para as autoridades combaterem esse tipo de plataforma está no formato usado. Conforme explica o MJ, enquanto a retirada de um aplicativo das lojas oficiais mitiga de imediato a distribuição em massa por aquele canal, tornar um domínio na web indisponível envolve cadeias internacionais de custódia técnica sediadas em diferentes jurisdições e esbarra na fragmentação dos agentes envolvidos.
“Soma-se a isso a rápida migração do conteúdo para novos domínios, subdomínios ou espelhos, muitas vezes com variações mínimas de grafia, o que reduz a efetividade de medidas pontuais e exige monitoramento contínuo”, informa a pasta.
Marco legal
O rastreamento de ferramentas como esta é uma das frentes de trabalho do governo federal contra os crimes virtuais, sobretudo os que atentam contra a vida, a honra e a dignidade humana. No caso de material de nudez, mulheres e meninas costumam ser os principais alvos.
Embora estejam em período de vacância legal — destinado à adaptação das empresas envolvidas às novas regras — há dois decretos, assinados em maio, que poderão auxiliar nesse combate.
Um deles veda aos provedores de aplicações de internet a geração e a modificação de conteúdo íntimo de terceiro mediante uso de inteligência artificial ou de qualquer outro recurso tecnológico que altere imagem ou voz da vítima, além de exigir salvaguardas técnicas e procedimentais para identificar e bloquear solicitações desse tipo.
O segundo altera o regulamento do Marco Civil da Internet para prever a responsabilização em caso de falha sistêmica na indisponibilização imediata de conteúdos que caracterizem crimes praticados contra a mulher em razão da condição do sexo feminino.
A norma também atribuiu à ANPD a regulação, a fiscalização e a apuração de infrações quanto ao cumprimento dos deveres dos provedores.
A nota técnica ainda destaca que, mais do que a violação dos direitos de imagem, sites dessa natureza podem estar incorrendo no crime de violência psicológica contra a mulher, cuja pena é aumentada quando o crime é cometido mediante uso de inteligência artificial ou de outro recurso tecnológico que altere imagem ou voz da vítima.
Quando as imagens envolvem crianças e adolescentes, incide também o Estatuto da Criança e do Adolescente (ECA), que pune a simulação da participação desse público em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual.
O post Sites que alteram fotos para gerar falsa nudez podem ser investigados pela PF apareceu primeiro em Vermelho.
