Seleccione Edição
Entra no EL PAÍS
Login Não está cadastrado? Crie sua conta Assine

Empresas tecnológicas barram pornô manipulado por inteligência artificial

Twitter, Reddit e Pornhub atualizam termos para proibir vídeos pornográficos gerados por algoritmos

Os mecanismos substituem os rostos das atrizes

Emma Watson, uma das vítimas da manipulação de vídeos, com Ethan Hawke em um fotograma do filme ‘Regressão’, de Alejandro Amenabar.
Emma Watson, uma das vítimas da manipulação de vídeos, com Ethan Hawke em um fotograma do filme ‘Regressão’, de Alejandro Amenabar.

O agregador de notícias e conteúdos sociais Reddit e a rede social Twitter atualizaram seus termos de uso para deter a difusão de conteúdo pornográfico manipulado por tecnologias de inteligência artificial, que revelam um dos perigos que a sociedade enfrenta devido aos avanços computacionais na época da pós-verdade e das fake news.

As duas empresas querem evitar a difusão de conteúdo deepfake porn, ou seja, vídeos em que o rosto de uma celebridade é inserido em cenas pornográficas. Para isso, são usadas redes neuronais de aprendizado de máquinas que se nutrem de centenas de fotos, extraídas do Google ou das redes sociais, por exemplo, para detectar e reproduzir suas feições no corpo de outras pessoas.

A atriz Emma Watson e a cantora Taylor Swift foram vítimas dessa atividade que há dois meses ganhou uma grande popularidade graças ao Reddit, até que nesta quarta-feira foi fechado o canal que compartilhava os vídeos falsos.

Tudo começou com o trabalho de um usuário do Reddit apelidado deepfakes, que começou a compartilhar vídeos pornográficos em que o rosto atriz original era substituído pelo de uma celebridade. Um usuário é capaz de criar as cenas falsas sozinho, empregando ferramentas de código aberto e acessíveis a qualquer um, como o TensorFlow, do Google.

Logo deepfakes criou o seu próprio subreddit para compartilhar essas criações. Antes de ser desativada, na quarta-feira, a página tinha quase 100.000 seguidores. Um usuário desse fórum adaptou o software a um aplicativo fácil de usar, e então a criação e difusão das montagens pornôs dispararam.

Os vídeos gerados por redes neuronais não enganam um olho atento, mas as máquinas não param de aprender e melhorar. Essas redes, que operam de forma autônoma, se alimentam de fotografias e vídeos relativamente fáceis de encontrar nas redes sociais, onde são postados voluntariamente pela vítima. Qualquer usuário pode usá-la com aplicativos amplamente disponíveis e com o poder computacional de uma placa de vídeo.

“Em 7 de fevereiro de 2018 realizamos duas atualizações nas nossas políticas sobre conteúdos pornográficos não consentido ou conteúdos sugestivos que envolvam menores. As comunidades focadas nesse tipo de material e os usuários que contribuírem com elas serão restringidos”, anunciou o Reddit em nota.

O portal de vídeos pornôs Pornhub também considera essas montagens como um conteúdo não consentido e por isso diz que “as elimina assim que são detectadas”.

“É uma intromissão no direito à própria imagem”, diz Borja Adsuara, especialitas em direito digital

“É uma intromissão no direito à própria imagem”, diz o advogado espanhol Borja Adsuara, especialista em direito digital, ao EL PAÍS. “Você tem o direito de que ninguém manipule a sua imagem, sobretudo se isso puder afetar a sua honra, prestígio, integridade moral etc.. A informação veraz é um dos pilares das democracias, e as notícias falsas não prejudicam apenas os bens de interesse particular, mas também os bens de interesse geral.”

O esforço conjunto pela erradicação desse material é um dos primeiros sinais dos altos riscos que os avanços da inteligência artificial acarretam. Numerosos especialistas já declararam publicamente que o risco não está nos robôs assassinos da ficção científica, e sim na manipulação da verdade, na difusão de desinformação e na propaganda que se vale de mentiras para estimular sentimentos através de conteúdos virais nas redes sociais.

“As máquinas poderiam começar uma guerra publicando notícias falsas, roubando contas de e-mail e enviando notas de imprensa falsas, só manipulando informação”, disse o empreendedor Elon Musk em um debate com governadores norte-americanos em 2016. “A pena é mais poderosa que a espada.”

MAIS INFORMAÇÕES