Criação de imagens íntimas e inteligência artificial: desafios jurídicos e ético

Em 2011, a atriz americana Scarlet Johansson teve fotos íntimas vazadas por um criminoso que invadiu contas de e-mail de dezenas de celebridades. No mesmo ano, a atriz brasileira Carolina Dieckmann também foi alvo de exposição de fotos pessoais, incluindo imagens íntimas. Nos dois casos, os criminosos foram identificados e punidos, com o rigor de cada legislação. Em 2023, ao menos 20 meninas de uma escola particular foram vítimas da criação de imagens íntimas falsas criados por meio de inteligência artificial, em um episódio lamentável e alarmante para o país.

Nos casos de divulgação de imagens íntimas reais, a exposição está condicionada à obtenção das imagens, seja de forma lícita, como em uma gravação consensual entre os envolvidos, ou de forma ilícita, pela invasão de dispositivos tecnológicos, como computadores pessoais e celulares. O necessário acesso às imagens reais dificulta a divulgação do material íntimo, embora não raro nos deparemos com casos de pornografia de vingança ou outro tipo igualmente repugnante de divulgação não consentida.

Embora o meio de divulgação das imagens seja diferente nos casos citados, ambos retratam uma triste tendência em expor mulheres sem o devido consentimento, independentemente da forma adotada.

Hoje, novas ferramentas de inteligência artificial, impulsionadas pela capacidade de processamento e análise de informações, tornam possível a exposição de qualquer pessoa cujas imagens possam ser obtidas para criar material de nudismo. Uma das ferramentas analisadas para a pesquisa deste artigo revela possuir “algoritmos sofisticados e tecnologia avançada” para a criação de “representações incrivelmente realistas de corpos nus perfeitos”, para “servir apenas a um propósito — sua satisfação sexual do usuário”.

Há diversas preocupações com o avanço dessa tecnologia de geração de imagens cada vez mais sofisticadas de nudismo. Primeiramente, tais imagens exploram uma noção irreal, machista e preconceituosa de corpos femininos “perfeitos”, aprofundando o grave problema de desprezo pela mulher enquanto indivíduo, reduzindo-a a mero corpo objetificável. Além disso, a produção indiscriminada, antiética e irrefletida dessas imagens ignora, muitas vezes, o dano existencial causado às vítimas dessas criações lamentáveis, visando unicamente à “satisfação sexual” dos usuários.

E essa tendência é bastante preocupante. Um estudo de 2019 realizado pela Sensity AI estima que entre 90% e 95% de todos os vídeos deepfake online são pornôs não consensuais, e cerca de 90% desses vídeos incluem mulheres. A facilidade de produção dessas imagens, associada à rápida proliferação em aplicativos de mensagens, torna o fenômeno ainda mais preocupante, especialmente porque vítimas de exposição sexual não consentida (revenge porn, mais comumente) muitas vezes consideram o suicídio como a única saída para o sofrimento psicológico enfrentado. E não há motivos para pensar que no cenário atual, em que a inteligência artificial pode criar milhares de imagens íntimas de alguém, seria diferente.

O impacto da criação dessas imagens e divulgação indiscriminada, notadamente em crianças e adolescentes, pode ser devastador e demanda das escolas e autoridades públicas o desenvolvimento de uma cultura ética na utilização dessas ferramentas de inteligência artificial. Um importante passo nessa direção foi a aprovação da base nacional comum curricular da computação (BNCC da computação), que dentre seus eixos de organização dispõe sobre a cultura digital, que “envolve aprendizagens voltadas à participação consciente e democrática por meio das tecnologias digitais, o que pressupõe compreensão dos impactos da revolução digital e seus avanços na sociedade contemporânea; bem como a construção de atitude crítica, ética e responsável em relação à multiplicidade de ofertas midiáticas e digitais, e os diferentes usos das tecnologias e dos conteúdos veiculados; […]”.

Os recentes acontecimentos no país acendem o alerta para o tratamento jurídico do que é feito com inteligência artificial e um alerta ético do uso dessas ferramentas. A resposta jurídica, com elaboração e revisão da legislação para abarcar temas como esse, pode demorar muito dada a complexidade do tema. Por outro lado, o debate sobre o uso ético e responsável dessas ferramentas, especialmente no cenário escolar, pode ser implementado desde já, com a participação da direção, professores, pais e alunos. E cabe também à sociedade discutir esse tema e repudiar “criações” que violem direitos da personalidade e exponham à humilhação qualquer pessoa.

(*) Rodrigo da Costa Alves é advogado