Com o uso da inteligência artificial generativa, por exemplo, um criminoso consegue utilizar um vídeo ou imagem disponível na internet e transformá-lo em um conteúdo sexual. “A proliferação de aplicativos de IA generativa permite que se pegue a foto de uma pessoa vestida e se tire a roupa daquela pessoa”, explicou Thiago Tavares, fundador e diretor-presidente da SaferNet Brasil. “Isso pode ser manipulado, gerar uma mídia sintética e representar aquela pessoa em uma imagem ultrarrealista de nudez”.

O tema foi discutido hoje no evento Dia da Internet Segura, que ocorre até amanhã (7) em São Paulo. Em uma das palestras, o diretor executivo da WeProtect Global Alliance, Iain Drennan, disse que a inteligência artificial é uma nova tendência para os casos de abuso sexual no mundo. “Você simplesmente usa uma imagem sintética, você nem usa uma imagem real. E isso pode ser levado a uma escala industrial. Os criminosos podem acessar a tecnologia de IA disponível ou de realidade estendida”, explicou. “Isso é um material que pode não ser ilegal, mas está sendo utilizado com propósito sexual”, alertou.

O tema é amplo e envolve não só a manipulação de imagens. Drennan citou também casos de estupros que vêm ocorrendo em salas de realidade virtual ou metaverso e que estão sob investigação em alguns países. “As salas de realidade virtual são seguras para meninas? Temos que dar conta desse tipo de crime com legislação”.

Segundo o especialista, os grupos que são mais vulneráveis a esses tipos de exposição sexual na internet são, por exemplo, crianças com algum tipo de deficiência ou LGBTs. “Temos que lidar com isso de uma maneira sensível para que esses grupos não se sintam ainda mais marginalizados ou vulneráveis”, ressaltou.

Legislação

No final do ano passado, a Câmara dos Deputados aprovou a criminalização de quem criar e divulgar imagens (foto e vídeo) de nudez e conteúdo sexual de uma pessoa utilizando inteligência artificial no Brasil. Pelo texto, a pena para esse tipo de crime será de 1 a 4 anos de prisão, além de multa. A proposta agora está em análise no Senado.

Para Drennan, a legislação é um dos passos para impedir a proliferação desse tipo de crime na internet. Mas é preciso mais, alertou. “Precisamos de ajuda do governo, do setor privado e da sociedade civil, mas também do empoderamento dos pais e dos tutores das crianças. Mas essa responsabilidade não deve ser responsabilidade única das famílias e das crianças”.

A preocupação com o uso da inteligência artificial para exploração ou abuso sexual e também para uso político se estendeu também para o setor privado. Hoje, a gigante norte-americana Meta anunciou que vai identificar qualquer imagem gerada por inteligência artificial que aparecer em suas redes sociais Facebook, Instagram e Threads. O anúncio foi feito por Nick Clegg, presidente de assuntos globais da Meta.

Segundo Clegg, imagens fotorrealistas criadas por meio de inteligência artificial nas redes sociais da Meta já estão recebendo rótulos. Mas a empresa também está desenvolvendo ferramentas para identificar conteúdo de inteligência artificial criado por meio de outras empresas. “O conteúdo de parceiros, incluindo Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock será marcado com rótulos que indicam se algo foi criado com IA. Embora esta não seja uma solução perfeita e que não vai conseguir resolver tudo, este é um primeiro passo importante em um processo em evolução”, escreveu no X. “As pessoas valorizam a transparência em torno desta nova tecnologia. Por isso, quanto mais pudermos fazer para desmitificar, melhor”, acrescentou.

Denúncias

A pesquisa divulgada hoje pela Safernet mostrou que as denúncias da presença de imagens de abuso e exploração sexual infantil na internet bateram recorde em 2023, somando 71.867 queixas no ano passado.

“Isso representa um recorde absoluto em número de novas URLs (endereços ou páginas da internet) denunciadas desde a criação da instituição, em 2005. É o pico da série histórica em 18 anos”, destacou Thiago Tavares, da SaferNet.

Segundo a ONG, três fatores principais motivaram o aumento das denúncias de imagens de abuso e exploração sexual infantil. Além do uso da inteligência artificial para criação desse tipo de conteúdo também houve demissões em massa realizadas pelas big techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo de algumas plataformas; e a proliferação da venda de imagens de nudez e sexo autogeradas por adolescentes.

Casos de exploração e de abuso sexual na internet podem ser denunciados na Central de Denúncias da SaferNet. É preciso colar o link do endereço da internet suspeito e seguir os demais passos indicados na plataforma.

Para casos de violência sexual infantil, também pode ser acionado o Disque 100, canal mantido pelo governo federal.

Agência Brasil.

O post Inteligência artificial tem impulsionado imagens de abuso na internet apareceu primeiro em Portal Verdade&Expressão.

Nesse período, a Safernet recebeu 54.840 novas denúncias de conteúdos com imagens de crianças abusadas sexualmente. No ano passado, foram 29.809 novas denúncias. Em entrevista nesta quarta-feira (25) à Agência Brasil, o presidente da Safernet Brasil, Thiago Tavares, alertou que esses dados são referentes a “novos conteúdos ou novas páginas”, que nunca tinham sido denunciadas antes.

“Isso chama a atenção para o fato de que novos conteúdos e novas imagens estão sendo produzidas e estão sendo disponibilizadas na internet e colocando mais crianças em risco não só para acessar conteúdo dessa natureza mas também de serem vítimas de situações de assédio e de abuso”, disse Tavares.

Para ele, parte desse aumento se deve a um novo fenômeno que tem preocupado muito a Safernet: a venda de packs ou de pacotes. “São imagens autogeradas por adolescentes e vendidas na forma de pacotes em aplicativos de troca de mensagens, em aplicativos como o Discord e Telegram. São sobretudo populações vulneráveis, que estão em condição de vulnerabilidade socioeconômica e crianças das classes D e E que estão produzindo imagens íntimas de si mesmas, de nudez, ou eventualmente manipulando a genitália, introduzindo objetos em genitália e produzindo vídeos e fotos dessas cenas e vendendo ou trocando por cupons de jogos e créditos de celular. Esse é um fenômeno que os pais geralmente não sabem e não acompanham.” 

Tavares alertou que esse tipo de imagens e vídeos não só fere o Estatuto da Criança e do Adolescente (ECA), mas coloca a criança e o adolescente em risco. “Você não consegue conter depois a disseminação e a viralização dessas imagens.”

Esses dados revelados pela Safernet são condizentes com dados de operações da Polícia Federal que envolvem crimes cibernéticos e que tiveram crianças e adolescentes como vítimas. Só neste ano foram realizadas 627 operações dessa natureza, o que significou aumento de quase 70% em comparação ao ano passado.

“De alguma maneira, estão acontecendo investigações e prisões estão sendo feitas. Mas é como enxugar gelo porque o crime continua avançando. E, em se tratando de produção de imagens, a solução não é pela via policial. Não é aplicando medida socioeducativa para um adolescente que você vai resolver o problema. Esse adolescente é vítima de uma situação de exploração comercial da sua sexualidade. Ele não está produzindo porque ele quer ficar famoso na rede, mas por uma troca: há alguém disposto a pagar por isso”, explicou.

Acesso à internet cada vez mais cedo

Os dados da Safernet foram divulgados durante o 8º Simpósio Crianças e Adolescentes na Internet, realizado hoje na capital paulista, e que revelou que as crianças estão acessando a internet cada vez mais cedo no Brasil. Esse estudo, que foi conduzido pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br) do Núcleo de Informação e Coordenação do Ponto BR (NIC.br), ligado ao Comitê Gestor da Internet no Brasil (CGI.br), apontou que 24% do total de crianças e adolescentes entre 9 e 17 anos acessam a internet pela primeira vez antes dos 6 anos de idade. Em 2015, esse primeiro acesso à internet acontecia mais tarde: 16% acessavam a internet pela primeira vez aos 10 anos de idade, enquanto 11% faziam esse primeiro acesso quando tinham menos de 6 anos.

Para Tavares, o fato de crianças acessarem a internet cada vez mais cedo preocupa. “O acesso [à internet] é cada vez mais cedo e sem supervisão. Essa é uma combinação explosiva”, disse.

A prevenção da disseminação de imagens de abuso e da exploração sexual infantil na internet, disse Tavares, passa pelo ensino de educação sexual nas escolas.

“É absolutamente necessário falar sobre educação sexual nas escolas. As escolas precisam romper esse tabu e falar sobre esse assunto porque as crianças e adolescentes estão entrando em contato com conteúdos que são inapropriados para sua idade e estão tendo comportamentos de risco”, defendeu.

Segundo ele, falar sobre educação sexual é importante também para que a criança aprenda a reconhecer situações de abuso e de violência.

Ele alerta também para a necessidade de os pais ficarem mais atentos ao que seus filhos estão fazendo na internet. “É fundamental que eles acompanhem a navegação dos filhos. E é possível fazer isso hoje com apoio da tecnologia. Os sistemas operacionais como o Android, por exemplo, que é usado por 85% da população brasileira que tem acesso ao celular, tem um aplicativo chamado Family Link, que permite que os pais acompanhem em tempo real a navegação dos seus filhos e permite definir horário de uso, sites permitidos e observar interações com estranhos”, destacou. “A pior coisa que um pai ou uma mãe pode fazer é dar de presente um celular a uma criança e deixá-la explorá-lo sozinha. É como se você deixasse seu filho em uma rua, sozinho, explorando regiões de venda de drogas e de altos índices de criminalidade”, comparou.

“Temos que estar em cima, sempre observando o que as crianças estão acessando. Temos que fazer um controle e ver que tipos de redes sociais elas querem acessar”, reforçou Estela Beraquet Costa, delegada da Polícia Federal, durante o simpósio.

Expressão

A Safernet não utiliza a expressão “pornografia infantil” para se referir a esse tipo de crime, preferindo utilizar “imagens de abuso e exploração sexual infantil” ou “imagens de abusos contra crianças e adolescentes”. Isso porque, segundo a ONG, a expressão pornografia pressupõe o consumo passivo do conteúdo, diminuindo a percepção de gravidade dos que têm acesso a essa imagem e as distribuem. Para a Safernet, quem consome imagens de violência sexual infantil é cúmplice do abuso e da exploração sexual infantil.

No Brasil, o ECA prevê como crime a venda ou exposição de fotos e vídeos cenas de sexo explícito envolvendo crianças e adolescentes. Também são crimes a divulgação dessas imagens por qualquer meio e a posse de arquivos desse tipo.

“Para quem produz imagens pornográficas ou com cenas de sexo explícito envolvendo crianças e adolescentes, o ECA prevê pena de quatro a oito anos de reclusão. Quem armazena essas imagens em um pen-drive, celular ou computador incorre no crime de armazenamento, cuja pena é de um a três anos de reclusão. Quem assedia, alicia ou estimula a participação de crianças e adolescentes em cenas pornográficas ou de sexo explícito tem pena de um a quatro anos de reclusão. E quem compra, vende ou expõe a venda de imagens dessa natureza também incorre em pena de quatro a oito anos de reclusão. E essas penas são somadas a depender das múltiplas condutas que o agente venha a cometer. Então, se ele filmou, fotografou, armazenou, divulgou e vendeu, ele pode ter uma pena mínima de dez anos, podendo chegar a 20 anos de reclusão, fora o abuso em si, que é uma pena separada.”

Denúncias

As denúncias de páginas que contenham imagens de abuso e exploração sexual de crianças e adolescentes podem ser feitas na Central Nacional de Denúncias da Safernet Brasil. Em caso de suspeita de violência sexual contra crianças ou adolescentes, deve ser acionado o Disque 100.

“Se algum usuário encontrar imagens de abuso sexual, em qualquer lugar da internet, não feche os olhos e nem se omita. Denuncie. A denúncia é completamente anônima. Basta acessar o formulário e o endereço www.denuncie.org.br”, destacou Tavares.

Agência Brasil.

O post Denúncias de imagens de abuso sexual infantil na internet crescem 84% apareceu primeiro em Portal Verdade&Expressão.