Bahia é o terceiro estado com mais vítimas de imagens sexuais falsas criadas por IA em escolas

Há cerca de um ano, imagens com conteúdos pornográficos de alunas do Colégio Militar de Salvador (CMS), no bairro da Pituba, tomaram conta das redes sociais. Com o caso, a Bahia assumiu a terceira posição no ranking de estados com o maior número de vítimas de deepfakes sexuais em escolas brasileiras. Em três anos, foram 17 pessoas afetadas na Bahia e 72 em todo o Brasil, segundo mapeamento da ONG SaferNet Brasil, no estudo “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças”.

Além da Bahia, que teve apenas um caso registrado, estão no pódio São Paulo e Rio Grande do Sul, com 37 e 16 vítimas, respectivamente. Enquanto SP e RS estimam 12 e 9 infratores, o estado baiano, no entanto, ainda não identificou os autores dos casos. O levantamento é baseado em notícias publicadas desde 2023 até o momento.

Para a advogada especializada em Direito Digital, Tamíride Monteiro, um importante fator que explica a propagação de casos envolvendo o uso de imagens de adolescentes é a combinação de diversos elementos, como a curiosidade em relação às inteligências artificiais e o despreparo para o uso das tecnologias. “[Crianças e adolescentes estão mais expostos] principalmente ao uso de tecnologia dessa natureza para o cyberbullying e práticas sociais e criminosas. A falta de maturidade para lidar e compreender os riscos do uso e o que ela ‘devolve’ é o maior desafio para lidar com os mais jovens”, pontua.

Diogo Gabriel Lima, especialista em Direito Digital e Cibercrimes, acrescenta que a falta de orientação quanto ao conteúdo consumido pelos jovens na web, e as consequências de levá-los à prática, também é um fator relevante nessa equação. “Muitos fazem isso como uma brincadeira de mau gosto, mas alguns não têm noção de que estão cometendo um crime”, opina o advogado. “É uma geração muito virtualizada, conectada diariamente por muitas horas. Eles precisam também de uma educação direcionada para isso. As escolas deveriam ter um olhar mais atento a essa questão”, acrescenta.

Nesses casos, um dos principais dispositivos legais que ampara as vítimas adolescentes de deepfake é o artigo 241 do Estatuto da Criança e do Adolescente (ECA), que proíbe a simulação de participação de criança ou adolescente em cena de sexo explícito ou pornográfica, por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual. A pena para essa infração pode variar entre um e três anos de reclusão, além de multa, conforme aponta Monteiro.

Lima, por outro lado, acredita que a legislação brasileira ainda precisa avançar no que diz respeito à internet, sobretudo quando o assunto é a violação de imagem. “Nós não temos uma lei específica para deepfakes. Ninguém sabe como o procedimento deve ser feito quando se trata de um deepfake, o que pode ser feito, por onde se começa — e são coisas que precisam ser trabalhadas tanto do ponto de vista legal quanto do educacional”, afirma.

É possível se proteger?

Na internet, uma foto publicada pode alcançar milhares de pessoas, fazendo com que o usuário perca a noção do alcance do conteúdo. Qualquer pessoa pode salvar, compartilhar e replicar imagens de diferentes formas. Para se proteger, vale ter cautela quanto a quem tem acesso ao seu perfil e às suas informações. “Evitar conversas com pessoas que não conhece ou que se apresentem com muito fácil acesso nas redes sociais, principalmente”, sugere Monteiro.

Para os pais, ela argumenta que é importante estar atento ao conteúdo assistido, ter a senha dos menores e adotar um sistema de monitoramento do tempo de uso da internet no computador ou celular também.

Apesar dos cuidados, Lima ressalta que estar na internet envolve exposição constante. “Não tem muito o que ser feito, só se você for bem ‘low profile’, com poucas fotos, tiver somente família e alguns amigos restritos. Isso reduz a probabilidade de acontecer, mas todos nós estamos sujeitos a sofrer uma deepfake”, pondera.

Fui alvo de deepfake: o que fazer?

Após ser vítima de uma deepfake, os especialistas orientam buscar a delegacia virtual para registrar um boletim de ocorrência. “Dependendo do seu relato, o caso pode ser direcionado a uma delegacia territorial ou até à nossa delegacia de repressão a cibercrimes, que fica em Salvador”, informa Lima.

O segundo passo é buscar um advogado especialista para ajudar a identificar a pessoa que começou a propagar o conteúdo de deepfake. O terceiro ponto é a responsabilização civil e criminal dos envolvidos, com a ajuda do profissional do direito especializado.