Atualização: Em maio de 2023, o Congresso Brasileiro discute o Projeto de Lei das Fake News, que já foi aprovado pelo Senado e agora está na Câmara dos Deputados. O projeto exige que plataformas online sejam representadas por uma entidade legal no Brasil, criminaliza a disseminação de conteúdo falso e responsabiliza os provedores pelo conteúdo de terceiros. O projeto também estabelece regras de moderação transparentes e pagamento por conteúdo jornalístico. Autoridades brasileiras acusaram Google e Twitter de tentarem obstruir a aprovação do projeto.

Não é recente a divulgação de notícias falsas (deepfakes ou fakenews) como verdadeiras. O termo FakeNews, usado desde o final do século XIX, segundo o dicionário Merriam-Webstar, se popularizou quando passou a ser associado à informações falsas na internet. A luta contra essas inverdades é trabalhosa.

Segundo uma pesquisa realizada pelo Laboratório de Mídia do Instituto de Tecnologia de Massachusetts, as FakeNews se espalham seis vezes mais rápido do que notícias verdadeiras na plataforma Twitter. Muitos canais de comunicação jornalísticos criaram equipes apenas para caçá-las e desmenti-las.

As consequências dos impulsionamento das deepfakes ou fakenews

Essas divulgações enganosas normalmente são textos falsos acompanhados de vídeos e imagens reais fora do contexto. Mas esse não é o único modo de propagar a mentira. Imagine o ex-presidente norte-americano, Barack Obama, em um pronunciamento oficial, dizendo: "Donald Trump é um completo imbecil". Ou então candidatos britânicos pedindo aos eleitores para que votassem nos seus opositores. Esses cenários são impossíveis de acontecer? Pelo menos eram antes da popularização das DeepFakes.

Como este tipo de conteúdo é criado e distribuído

Esses vídeos foram criados utilizando a tecnologia baseada no "deep learning" (do inglês, aprendizado profundo). É uma área da inteligência artificial onde os algoritmos reconhecem padrões a partir de um extenso banco de dados. O computador "entende" como aquele rosto se comporta quando fala, pisca e como reage à luz utilizando milhares de vídeos de fotos daquela pessoa.

Depois, ele cria um protótipo, que será analisado pelo próprio sistema para verificar se a imagem criada está de acordo com o esperado. Em caso negativo, ele repete a operação até chegar o mais próximo da realidade. O mesmo pode ser feito com a voz.

Com essa técnica, é possível estrelar seu filme preferido ou se tornar um dançarino profissional. O problema é que a criação de vídeos falsos não fica apenas na área do humor. Segundo um artigo de 2019 da empresa DeepTrace, 96% dos vídeos publicados eram rostos de celebridades, principalmente mulheres, colocados em filmes pornográficos.

Para Danielle Citron - professora de direito de Universidade de Boston - "é frustante saber que atualmente a lei não pode fazer nada para suportar quem tem sua imagem distorcida". Para ela, seria necessário classificar o conteúdo e o contexto de cada DeepFake e descobrir se é uma falsificação danosa ou uma sátira, arte ou educação.

Como fazer o controle da disseminação das deepfakes

Atualmente é possível fazer essa classificação, uma vez que detalhes como sombras e alinhamentos imperfeitos desmascaram o vídeo. Mas com o avanço dessa inteligência artificial, o falso e o real ficam cada vez mais próximos. Podemos não apenas acreditar na mentira, mas começar a não acreditar na verdade.

Veja Também: Deep fake: o uso indevido político e militar de imagens falsas de satélites

Quais as consequências das deepfakes para a sociedade

Grandes empresas e políticos estão preocupados com o avanço dessa tecnologia. O Facebook, em 2019, anunciou um gasto de dez milhões de dólares na luta conta o DeepFake em sua plataforma. Para o advogado Roberto Lemos, isso será um enorme desafio, pois quando utilizamos uma Inteligência Artificial para verificar a veracidade de um vídeo, é possível que ela aprenda a criar falsificações ainda mais poderosas.

Simultânea a isso, outra tendência para utilização dessa tecnologia que vem incomodando especialistas é a criação de indivíduos sintetizados virtualmente. Ou seja, vídeos de pessoas que nunca nasceram. O problema, nesse caso, pode aparecer quando criminosos virtuais assumem a identidade de tais "pessoas" e saem impunes. As leis ainda não estão bem definidas para os crimes cometidos com o DeepFake. Para Danielle Citron, "é necessária uma reposta internacional coordenada e rápida".

Há também casos que dividem opiniões. É o exemplo do americano que pensou em criar um DeepFake de sua falecida sogra dizendo um último adeus aos filhos. Antes de fazê-lo, ele publicou sua dúvida na Reddit (fórum online para discussões variadas). Muitos apoiaram a ideia, mas a esmagadora maioria foi contra. Por fim, ele decidiu não criar o vídeo. Para Bruno Sartori, jornalista e pioneiro no Brasil no uso de técnica do DeepFake, além de estar dentro da lei, o criador deve utilizar o bom-senso na hora de criar um vídeo falso.

Achou tudo isso "meio Black Mirror"? Deixe nos comentários.

Veja Também:

Fontes: CNN; Deetracelabs; Sciencemag; Deepfake Detection Challenge.

Imagens: Todos os Créditos reservados aos respectivos proprietários (sem direitos autorais pretendidos). Caso eventualmente você se considere titular de direitos sobre algumas das imagens em questão, por favor entre em contato com [email protected] para que possa ser atribuído o respectivo crédito ou providenciada a sua remoção, conforme o caso.

Rafael Panteri

Estudante de Engenharia Elétrica no Instituto Mauá de Tecnologia. Parte da graduação em Shibaura Institute of Technology - Japão.