Engenharia 360

ESCOLHA A ENGENHARIA
DO SEU INTERESSE

Digite sua Busca

DeepFake: conheça e entenda os perigos dessa tecnologia

por Rafael Panteri | 08/06/2020
Copiado!

DeepFake é uma tecnologia que utiliza inteligência artificial e é capaz de criar vídeos falsos, tornando-se extremamente perigosa se for usada para fins maliciosos

Não é recente a divulgação de notícias falsas como verdadeiras. O termo FakeNews, usado desde o final do século XIX, segundo o dicionário Merriam-Webstar, se popularizou quando passou a ser associado à informações falsas na internet. A luta contra essas inverdades é trabalhosa.

Segundo uma pesquisa realizada pelo Laboratório de Mídia do Instituto de Tecnologia de Massachusetts, as FakeNews se espalham seis vezes mais rápido do que notícias verdadeiras na plataforma Twitter. Muitos canais de comunicação jornalísticos criaram equipes apenas para caçá-las e desmenti-las.

Essas divulgações enganosas normalmente são textos falsos acompanhados de vídeos e imagens reais fora do contexto. Mas esse não é o único modo de propagar a mentira. Imagine o ex-presidente norte-americano, Barack Obama, em um pronunciamento oficial, dizendo: “Donald Trump é um completo imbecil”. Ou então candidatos britânicos pedindo aos eleitores para que votassem nos seus opositores. Esses cenários são impossíveis de acontecer? Pelo menos eram antes da popularização das DeepFakes.

Esses vídeos foram criados utilizando a tecnologia baseada no “deep learning” (do inglês, aprendizado profundo). É uma área da inteligência artificial onde os algoritmos reconhecem padrões a partir de um extenso banco de dados. O computador “entende” como aquele rosto se comporta quando fala, pisca e como reage à luz utilizando milhares de vídeos de fotos daquela pessoa.

Depois, ele cria um protótipo, que será analisado pelo próprio sistema para verificar se a imagem criada está de acordo com o esperado. Em caso negativo, ele repete a operação até chegar o mais próximo da realidade. O mesmo pode ser feito com a voz.

Com essa técnica, é possível estrelar seu filme preferido ou se tornar um dançarino profissional. O problema é que a criação de vídeos falsos não fica apenas na área do humor. Segundo um artigo de 2019 da empresa DeepTrace, 96% dos vídeos publicados eram rostos de celebridades, principalmente mulheres, colocados em filmes pornográficos.

Para Danielle Citron – professora de direito de Universidade de Boston – “é frustante saber que atualmente a lei não pode fazer nada para suportar quem tem sua imagem distorcida“. Para ela, seria necessário classificar o conteúdo e o contexto de cada DeepFake e descobrir se é uma falsificação danosa ou uma sátira, arte ou educação.

Atualmente é possível fazer essa classificação, uma vez que detalhes como sombras e alinhamentos imperfeitos desmascaram o vídeo. Mas com o avanço dessa inteligência artificial, o falso e o real ficam cada vez mais próximos. Podemos não apenas acreditar na mentira, mas começar a não acreditar na verdade.

Grandes empresas e políticos estão preocupados com o avanço dessa tecnologia. O Facebook, em 2019, anunciou um gasto de dez milhões de dólares na luta conta o DeepFake em sua plataforma. Para o advogado Roberto Lemos, isso será um enorme desafio, pois quando utilizamos uma Inteligência Artificial para verificar a veracidade de um vídeo, é possível que ela aprenda a criar falsificações ainda mais poderosas.

Simultânea a isso, outra tendência para utilização dessa tecnologia que vem incomodando especialistas é a criação de indivíduos sintetizados virtualmente. Ou seja, vídeos de pessoas que nunca nasceram. O problema, nesse caso, pode aparecer quando criminosos virtuais assumem a identidade de tais “pessoas” e saem impunes. As leis ainda não estão bem definidas para os crimes cometidos com o DeepFake. Para Danielle Citron, “é necessária uma reposta internacional coordenada e rápida“.

imagem de rostos criados por inteligência artificial e deepfake
Pessoas não-reais. (Publicado no site https://thispersondoesnotexist.com/)

Há também casos que dividem opiniões. É o exemplo do americano que pensou em criar um DeepFake de sua falecida sogra dizendo um último adeus aos filhos. Antes de fazê-lo, ele publicou sua dúvida na Reddit (fórum online para discussões variadas). Muitos apoiaram a ideia, mas a esmagadora maioria foi contra. Por fim, ele decidiu não criar o vídeo. Para Bruno Sartori, jornalista e pioneiro no Brasil no uso de técnica do DeepFake, além de estar dentro da lei, o criador deve utilizar o bom-senso na hora de criar um vídeo falso.

Achou tudo isso “meio Black Mirror”? Deixe nos comentários.

Referências: CNN; Deetracelabs; Sciencemag; Deepfake Detection Challenge.

Copiado!
Engenharia 360

Rafael Panteri

Estudante de Engenharia Elétrica no Instituto Mauá de Tecnologia. Parte da graduação em Shibaura Institute of Technology - Japão.

Comentários