Deepfake: entenda os riscos dessa tecnologia

Desde o início da internet, um grande fluxo de tecnologias são desenvolvidas e melhoradas rapidamente. A maioria delas é bastante positiva, trazendo inovações que impactam positivamente a sociedade. Entretanto, algumas delas podem ser extremamente perigosas se usadas de má fé. Uma das mais famosas é o deepfake.

O deepfake é um dos maiores instrumentos para a disseminação em massa de fake news. É importante conhecer essa tecnologia, buscando se prevenir dos perigos que ela oferece.

O que é o deepfake?

Deepfake é uma técnica que utiliza inteligência artificial (IA) para criar vídeos falsos, porém convincentes, de pessoas realizando ações que nunca ocorreram na realidade.

Infelizmente, essa técnica tem sido utilizada para criar conteúdo pornográfico envolvendo celebridades e até mesmo para produzir discursos fictícios de políticos influentes. Essa tecnologia tem gerado debates éticos acerca das suas consequências, tanto positivas quanto negativas.

Como ele é usado?

O Deepfake é  utiliza a Inteligência Artificial para trocar o rosto de pessoas em vídeos. Com resultados impressionantes e convincentes, esta técnica sincroniza movimentos labiais, expressões e outros detalhes para criar um vídeo realista.

Embora a prática de trocar rostos em vídeos não seja nova, em dezembro de 2017, o usuário do Reddit, deepfakes, criou um algoritmo revolucionário.

Ele usou ferramentas de Aprendizado de Máquina e Inteligência Artificial de código aberto, como Keras e TensorFlow (do Google), para treinar uma Rede Neural a mapear o rosto de uma pessoa em outro corpo, quadro por quadro.

Ao contrário do método manual utilizado no passado, o Deepfake permite que o usuário, com apenas uma fonte de referência, mapeie a estrutura da cabeça de destino e faça a sobreposição com facilidade. O software pode ajustar a movimentação do vídeo original ao novo rosto, incluindo expressões faciais e movimentos labiais.

Quais os perigos?

Normalmente, vídeos deepfake podem não ser perfeitos, mas são suficientemente realistas para enganar muitas pessoas. Apesar da má intenção não ser parte do conceito, pode ser uma variável na equação.

A manipulação de imagens e vozes de políticos serve como um alerta. Com ferramentas cada vez mais acessíveis, torna-se mais fácil propagar informações falsas com base em supostas provas em vídeo, representando um perigo para a democracia e a sociedade e ameaçando a credibilidade de tudo o que é publicado.

No caso dos vídeos pornográficos fictícios, surgem problemas éticos e legais complexos, de natureza mais individual. As criações enganosas podem prejudicar a vida de uma pessoa, famosa ou anônima, e, por enquanto, não se sabe ao certo o que a Justiça pode fazer a respeito.

Alguns já questionam a possível banalização do termo, semelhante ao que aconteceu com a expressão fake news. A preocupação é que a palavra deepfake seja usada de forma vaga e casual, tornando-se onipresente e mais forte do que o real impacto da tecnologia. Dessa forma, pessoas mal-intencionadas podem lançar dúvidas sobre evidências verdadeiras que não as agradam.

Por isso, os perigos são:

• Divulgação de informações irreais.
• Difamação de pessoas.
• Disseminação de informações perigosas e discursos de ódio.

Existem usos positivos do deepfake?

Embora a tecnologia de deepfake tenha sido amplamente associada à desinformação e ao uso mal-intencionado, há algumas aplicações positivas que podem ser exploradas. Aqui estão alguns exemplos:

• Entretenimento: Deepfakes podem ser usados ​​para criar conteúdo de entretenimento, como vídeos de comédia ou paródias. Isso permite que os criadores de conteúdo ofereçam experiências de entretenimento mais atraentes e divertidas para o público.
• Educação: Deepfakes podem ser usados ​​para criar experiências de aprendizado interativas, permitindo que os alunos interajam com pessoas ou situações históricas importantes. Isso pode ajudar a tornar o aprendizado mais envolvente e estimulante.
• Cinema: Deepfakes podem ser usados ​​para melhorar a qualidade de efeitos visuais em filmes e programas de televisão. Por exemplo, eles podem ser usados ​​para criar cenas realistas de personagens históricos ou para substituir atores em cenas perigosas ou impossíveis de filmar.
• Medicina: Deepfakes podem ser usados ​​para ajudar no diagnóstico e tratamento de doenças. Por exemplo, eles podem ser usados ​​para criar modelos 3D de partes do corpo, o que pode ajudar os médicos a visualizar e entender melhor as condições dos pacientes.
• Segurança: Deepfakes podem ser usados ​​para melhorar a segurança pública, como ajudar a identificar criminosos ou localizar pessoas desaparecidas. Eles podem ser usados ​​para criar vídeos simulados de pessoas desaparecidas ou procuradas, ajudando a divulgar informações relevantes e a aumentar as chances de localização.

Embora esses usos sejam positivos, é importante ressaltar que a tecnologia de deepfake ainda está em seus estágios iniciais e há muitos desafios a serem superados para garantir seu uso ético e responsável.

Manipulação de informações através do deepfake

Uma das grandes preocupações que surgiu principalmente nas últimas eleições no Brasil foi a manipulação de informações com o deep fake. Isso porque, ao criar vídeos com falas, rostos e outros tipos de imagens com rostos conhecidos, informações falsas são disseminadas.

Assim, aquele vídeo compartilhado nos apps de mensagem, que não se sabe a origem e que veio de localidade desconhecida, pode ser um vídeo falso com tudo manipulado, criado por pessoas má intencionadas para que se dissemine informações erradas.

Por isso, é preciso ter cuidado com o deepfake e com as notícias divulgadas. A dica é que sempre se verifique a fonte de onde veio a informação e também que se pesquise antes de se compartilhar qualquer vídeo ou imagem recebida.

Softwares de deepfake

Existem vários softwares que permitem a criação de deepfakes. Alguns dos mais conhecidos incluem:

• DeepFaceLab: um software gratuito de código aberto que permite a criação de deepfakes de alta qualidade usando algoritmos de aprendizado de máquina.
• Faceswap: outro software de código aberto que usa aprendizado de máquina para trocar rostos em vídeos e imagens.
• FakeApp: um software que usa deep learning para trocar rostos em vídeos e é um dos primeiros a popularizar a tecnologia de deepfake.
• Deep Art: um aplicativo que permite transformar fotos em obras de arte de artistas famosos, como Van Gogh e Picasso.
• ZAO: um aplicativo chinês que permite que os usuários substituam o rosto de celebridades em clipes de filmes e programas de TV.

Vale lembrar todas as questões éticas que estão relacionadas com o deepfake. Então, se for usar um software, use com cuidado.

Agora, com a informação, é importante que você use para que tenha em mente o uso correto desta tecnologia e, assim, o deepfake não seja espalhado.

Gostou? Veja mais informações em nosso site.