A manipulação e falsificação de vídeos tem se tornado cada vez mais frequente nas redes sociais. A utilização da técnica conhecida como deepfake tem encontrado nas redes sociais um campo fértil para difundir mentiras e atacar reputações.
“O deepfake pode ser definido como uma técnica que muitas vezes utiliza inteligência artificial para substituir o rosto de uma pessoa em mídias de vídeo ou fotos”, esclarece Otávio Lube, professor de engenharia da computação e mestre em informática.
Na prática, o deepfake é uma tecnologia que usa recursos de inteligência artificial (IA) e sintetiza imagens e sons para forjar vídeos que parecem ser originais. E assim, consegue colocar o rosto de uma pessoa no corpo de outra. Com o uso da tecnologia, é aplicado o reconhecimento da imagem que será reproduzida levando em consideração a anatomia do rosto, movimento da boca e do corpo.
A técnica em si não é uma novidade, desde a década de 1990, com o avanço de software de modificação de fotos como o Photoshop já circulavam mudanças de imagens, porém elas foram potencializadas pelas redes sociais, que ajudam a disseminar as notícias falsas. “A prática de substituir o rosto de uma pessoa por outra em diversas mídias, já é conhecida dos estudiosos. Porém, foi potencializada com a evolução da inteligência artificial e da computação gráfica, ganhou destaque nas redes sociais, principalmente com a popularização das famosas fake news”, ressalta Lube.
O deepfake como conhecemos e é espalhado pela internet, ganhou esses moldes em 2015, quando o Google lançou a ferramenta TensorFlow. Rodrigo Carneiro, pesquisador do Instituto Nacional de Ciência e Tecnologia em Democracia Digital, aponta que, com o avanço tecnológico, até mesmo apps de celular podem ajudar a confundir manipulando vídeos.
“A questão é que, inicialmente, era uma tecnologia muito cara e difícil de ser manipulada, ficando reservada apenas a um grupo muito restrito de pessoas capazes. Agora, as redes sociais atuam na circulação do conteúdo, o que torna o processo cada vez mais popular aliado ao barateamento da tecnologia e da facilidade que existe hoje para criar (é possível fazer isso em aplicativos de celular em poucos cliques)”.
A facilidade de se produzir vídeos falsos tem preocupado não apenas especialistas, mas até mesmo gigantes do segmento tecnológico, como a Microsoft. A empresa líder no ramo começou a desenvolver programas capazes de identificar deepfakes. O software Vídeo Authenticator consegue analisar vídeos e indica a porcentagem de chances da imagem ter sido alterada.
Um exemplo de vídeo deepfake que ganhou repercussão internacional foram as falas tiradas de contexto de Vladimir Zelensky, presidente ucraniano, que afirmavam que o país estaria se rendendo. O vídeo falso foi amplamente divulgado e anunciado como informação verdadeira por portais de informações ao redor do mundo.
Arthur Igreja, especialista em Tecnologia e Inovação e professor convidado da FGV, confirma que vídeos fraudulentos circulam desde a década passada, e realmente foi com o avanço das redes sociais que eles passaram a impactar nas escolhas e opiniões do público.
Mais de 66% nunca ouviram falar de deeppfake, mas sabem manipular vídeos no Instagram
De acordo com a pesquisa A infodemia e os impactos na vida digital, realizada pela empresa de tecnologia Kaspersky Daily, 66% dos brasileiros nunca ouviram falar de deepfake. O relatório revela também que 71% dos entrevistados pela empresa afirmam acreditar e não reconhecer quando um vídeo foi modificado digitalmente. O número é preocupante diante do volume de informações que consumimos diariamente pelas mais diversas mídias.
Lube afirma que por mais que a população desconheça o que deepfake e como impacta em nossas vidas, ela está presente em nosso cotidiano. Para o professor, até mesmo os filtros do Instagram podem ser uma forma de deepfake menos sofisticada.
“O avanço tecnológico apenas amplia essa exclusão e facilita o acesso de programas que permitam deep fakes e shallow fakes. Todos adoram usar os filtros do Instagram mas não percebem que as técnicas utilizadas para criá-los são similares para a criação de uma deep fake. Esta realidade tende a se acentuar nos próximos anos, certamente, com a população sendo cada vez mais consumidora de uma tecnologia que não faz a mínima ideia de como funciona”
Técnicas para enganar
Apesar dos nomes parecidos, as técnicas para espalhar mentiras se diferem em alguns aspectos. A mais comum de ser encontrada pelas redes sociais é a shallowfake — tradução em português “raso e falso”. Refere-se a um vídeo editado e retirado fora do contexto, sem utilizar softwares para modificar rostos e vozes.
Arthur Igreja lembra que fazer os shallowfake é mais comum porque é mais acessível ao público, já que para fazer uma deepfake é preciso de softwares mais sofisticados, que não estão acessíveis a maior parte da população. Alguns utilizam técnicas “machine learning” no qual consiste em estimular o programa a reconhecer a voz da pessoa alvo da montagem, até que esteja imperceptível a edição e modificação do vídeo.
“A diferença fundamental”, esclarece Igreja, “é que a deepfake usa um aparato tecnológico pesado de inteligência artificial, deep learning e machine learning, enquanto a shallowfake utiliza ferramentas básicas como edição para poder alcançar essa manipulação. A principal diferença, portanto, é o grau tecnológico envolvido. A mais simples, sem dúvida, é a shallowfake, mas também é preciso colocar em contexto que depende do nível de conhecimento de quem está fazendo”.
O especialista informa que as redes sociais ajudaram a alavancar as notícias falsas, visto que podem alterar com facilidades movimentos e falas. Porém, não tem como atribuir ao avanço da tecnologia os crimes que vêm sendo feitos por mal uso de softwares ou programas de edição. O pesquisador lembra que a mesma tecnologia do deepfake pode ser empregada para o aprendizado como as técnicas de e-learning.
“Nós imaginamos uma deepfake de vídeo perfeito, mas temos que lembrar que manipulações de vídeos acontecem todo dia”, continua o professor. “Com a evolução das deepfakes que estão ficando absurdamente críveis, não ficaria surpreso se eventos históricos também fossem manipulados ou alterados. É importante ressaltar que existem coisas extraordinárias sendo feitas com programas de edição de vídeo, inteligência artificial e deep learning, temos inúmeras possibilidades, combinações no entretenimento, na arte, no ensino. Porém, para os aspectos positivos sobressaírem temos que dar mais visibilidade a esses casos positivos, expondo também que deepfakes podem ser usadas, sim, para algo bom. São bases tecnológicas ferramentais e a questão é como e para que são usadas. Não dá para demonizar a tecnologia porque alguém fez uso incorreto”.
Deepfake e as práticas criminosas
Segundo Patricia Carneiro, advogada especialista em Direito Digital, a legislação brasileira não tem uma lei específica a respeito: “É fato que a legislação não consegue ser atualizada na mesma velocidade em que as novas ferramentas tecnológicas chegam a nós, mas isso não impede que certas condutas sejam punidas, como nos casos dos crimes eleitorais e contra a honra, por exemplo. Quem faz uso de tecnologia para cometer crimes pensando que sairá impune por se tratar de algo que não possui uma lei específica, como no caso dos deepfakes, está bastante enganado. Ainda podemos pensar, no âmbito da manipulação de vídeo/som/imagem, possíveis violações, por exemplo, de direitos autorais (Lei 9.610/98), de direito de imagem (art. 20 do Código Civil; arts. 15, 17 e 18 do Estatuto da Criança e do Adolescente, art. 5º, incisos V, X e XXVIII da CF/88), além dos crimes contra a honra (arts. 138, 139, 140 do Código Penal). Cada situação deverá ser analisada separadamente conforme o contexto e os elementos disponíveis”, explica a advogada.
Patrícia lembra que as leis brasileiras ainda não têm arquivos para muitos crimes na Internet. O Marco Civil da Internet, de 2014, e a Lei Geral de Proteger de Dados, 2018 não são suficientes para cobrir a quantidade de crimes que o avanço da tecnologia e a má fé das pessoas podem produzir, ela lembra que mulheres são os principais alvos de investidas na Internet.
“Apesar dos avanços em relação à igualdade de gênero, muito do poder social, político e jurídico continua sendo exercido majoritariamente por homens. Basta pensarmos em como é difícil, até hoje, reconhecer casos de violência doméstica, agressão e assédio sexual. Os crimes digitais não fogem à regra e faltam mecanismos de proteção às vítimas desse tipo de violência.
São múltiplos os fatores que fazem com que as mulheres sejam o alvo central dos crimes digitais. “Entre esses fatores”, continua a especialista, “podemos identificar o controle moral e sexual exercido sobre as suas vidas e corpos. Tomemos como exemplo a ‘pornografia de vingança’: quando um homem se vinga de sua ex-companheira divulgando esse material isso funciona como uma espécie de punição, pois ter sua intimidade exposta é extremamente vergonhoso para a mulher. Por outro lado, para muitos homens, ter uma foto íntima divulgada raramente será motivo de julgamento moral, podendo ser visto até como uma prova de virilidade. Por fim, vale lembrar que há casos de vazamento de fotos íntimas de mulheres que causaram tamanho impacto na vida dessas vítimas que as levaram a cometer suicídio”.
