O Ministério da Justiça e Segurança Pública ampliou o monitoramento de ferramentas de inteligência artificial utilizadas para criar imagens falsas de nudez e identificou 32 sites que oferecem esse tipo de serviço na internet. A relação foi encaminhada à Polícia Federal (PF) e à Autoridade Nacional de Proteção de Dados (ANPD), que irão analisar a possível adoção de medidas legais contra as plataformas.
As informações constam em uma nota técnica elaborada pela Secretaria Nacional de Direitos Digitais, revelada pela Folha de S.Paulo e prevista para ser publicada oficialmente nesta terça-feira (14). O documento representa uma nova etapa do trabalho iniciado pelo governo federal para mapear ferramentas conhecidas como “deepnude”, capazes de gerar montagens de nudez a partir de fotografias reais utilizando inteligência artificial.
Diferentemente do levantamento anterior, voltado para aplicativos, a nova análise concentra-se em serviços disponíveis diretamente em navegadores de internet, sem necessidade de instalação de programas ou aplicativos.
Segundo o Ministério da Justiça, essas plataformas representam um desafio ainda maior para a fiscalização devido à facilidade de acesso e à ausência de mecanismos mínimos de controle sobre os usuários.
Sites funcionam sem cadastro e sem controle de idade
A nota técnica destaca que muitos dos serviços identificados podem ser acessados diretamente pelo navegador, dispensando qualquer tipo de cadastro ou identificação do usuário.
Além disso, grande parte das plataformas não exige comprovação de idade, permitindo que qualquer pessoa utilize as ferramentas para manipular imagens.
Outro fator apontado pelo ministério é o modelo de negócio adotado por esses sites. Em muitos casos, os usuários recebem gratuitamente a possibilidade de criar uma ou duas imagens manipuladas, funcionando como uma demonstração do serviço antes da contratação de planos pagos ou assinaturas.
Na avaliação da Secretaria Nacional de Direitos Digitais, essa estratégia amplia o alcance das plataformas e facilita a disseminação desse tipo de tecnologia.
Lista foi mantida sob sigilo
Embora tenha identificado 32 páginas eletrônicas, o Ministério da Justiça decidiu não divulgar os endereços publicamente.
A justificativa é evitar que a divulgação acabe funcionando como publicidade involuntária para os serviços ou facilite o acesso de novos usuários às ferramentas.
Segundo o governo, o objetivo é impedir a ampliação da circulação de tecnologias que podem ser utilizadas para violar direitos fundamentais, como intimidade, privacidade, honra, imagem e dignidade das vítimas.
Ao final da análise, a Secretaria Nacional de Direitos Digitais recomendou o envio da lista para a Diretoria de Combate a Crimes Cibernéticos da Polícia Federal, para a Diretoria de Operações Integradas e Inteligência da Secretaria Nacional de Segurança Pública e para a Autoridade Nacional de Proteção de Dados.
Esses órgãos deverão avaliar se há indícios de práticas ilícitas e definir quais providências administrativas, civis ou criminais poderão ser adotadas.
Governo vê risco de ampliação da violência digital
Na nota técnica, o Ministério da Justiça alerta para os impactos sociais provocados pela disseminação de ferramentas de “deepnude”.
Segundo o documento, a utilização dessas plataformas pode ampliar episódios de violência psicológica, especialmente contra mulheres, ao facilitar a criação e a divulgação de imagens íntimas falsas sem o consentimento das vítimas.
O estudo também faz referência ao recente julgamento do Supremo Tribunal Federal (STF) sobre a responsabilização das plataformas digitais por conteúdos ilícitos e menciona decretos editados pelo governo federal voltados ao enfrentamento da violência contra mulheres no ambiente virtual.
A nova análise complementa um levantamento anterior dedicado exclusivamente a aplicativos desse segmento e amplia o foco para serviços oferecidos na chamada web aberta.
De acordo com o governo do presidente Luiz Inácio Lula da Silva (PT), o objetivo é compreender a dimensão da exposição da população brasileira a esse tipo de ferramenta e fornecer subsídios para a atuação dos órgãos responsáveis pela fiscalização e repressão.
Legislação já prevê punições
A produção e a divulgação de montagens de conteúdo sexual já encontram previsão de punição na legislação brasileira.
Pelas regras atualmente em vigor no Código Penal, quem produzir ou divulgar esse tipo de material pode responder por crime sujeito à pena de seis meses a um ano de prisão, além de multa.
Quando o conteúdo envolve crianças ou adolescentes, a responsabilização é ainda mais severa.
O Estatuto da Criança e do Adolescente (ECA) criminaliza a criação de montagens ou simulações envolvendo menores de 18 anos em cenas de sexo explícito ou pornografia, inclusive quando produzidas por meio de adulteração ou manipulação de fotografias, vídeos ou outras representações visuais.
Nesses casos, a pena prevista varia de um a três anos de prisão, além de multa, alcançando também quem comercializa, distribui ou divulga esse tipo de material.
Projeto pode endurecer penas
A legislação sobre o uso de inteligência artificial para produzir imagens íntimas falsas também pode sofrer mudanças.
Atualmente, tramita no Congresso Nacional o Projeto de Lei 3.821/24, aprovado pela Câmara dos Deputados em fevereiro, que amplia as punições para quem manipular, produzir ou divulgar conteúdo falso de nudez ou de ato sexual utilizando inteligência artificial ou outras tecnologias semelhantes.
Se a proposta for aprovada pelo Senado e posteriormente sancionada, a pena passará para reclusão de dois a seis anos, além de multa.
A iniciativa faz parte de um conjunto de medidas discutidas pelo Legislativo para adaptar a legislação penal ao avanço das tecnologias de inteligência artificial e aos novos tipos de crimes praticados no ambiente digital.
Deixe um comentário