Deep Fakes são imagens, áudio e gravações de vídeo falsos que parecem reais. A palavra deepfake em si é uma maleta de deep learning e fake, que se refere à maneira como o aprendizado de máquina e a inteligência artificial (IA) são aproveitados para criar essas falsificações. Tecnologia falsa profunda foi empregada para fins de entretenimento leve, mas também colocou palavras na boca de políticos, possibilitou golpes de engenharia social e até mesmo lançou rostos de celebridades em conteúdo pornográfico sem consentimento.
Como Deep Fakes são criados?
Pode soar como ficção científica ou magia de efeitos especiais de Hollywood, mas a tecnologia falsa profunda é surpreendentemente acessível. O método mais comum é a troca de rosto deep fake, que substitui o rosto de uma pessoa em um vídeo pelo rosto de uma pessoa diferente. Este método de troca de face se baseia na alimentação de dados de vídeo da pessoa original e fotografias da face substituta para um algoritmo de IA. A IA analisa a face original e a nova, encontra semelhanças e mapeia a nova face no vídeo existente quadro a quadro. Todo o processo de criação de falsificações profundas pode ser automatizado por serviços baseados na web, mas os algoritmos de IA também estão disponíveis para download, permitindo que qualquer pessoa com experiência suficiente crie falsificações profundas em seu próprio computador doméstico. Processos semelhantes podem ser usados para criar imagens falsas que parecem reais, animar fotos usando dados de movimento de um ator e até mesmo representar a voz de uma pessoa de forma realista. Tudo depende da inteligência artificial para quebrar os dados de entrada, como fotos, vídeos e gravações de áudio, e então sintetizar novas mídias que não podem ser distinguidas da coisa real.
Alguns exemplos falsos profundos
Muitas falsificações profundas são maliciosas, como colocar palavras na boca de um político ou de natureza pornográfica, mas a tecnologia também tem sido usada para fins mais leves. Aqui estão algumas falsificações profundas que você mesmo pode verificar:
- George Lucas e Harrison Ford: Este vídeo profundamente falso é apenas um de uma série de vídeos humorísticos do Collider que filmam impressionistas talentosos e substituem seus rostos por celebridades. Neste exemplo, George Lucas e Harrison Ford reagem a Baby Yoda de O mandaloriano.
- The Rock falsificado em The Rock: nesta falsificação profunda do Corridor Crew, eles usam tecnologia de falsificação profunda para consertar a descrição do vale misterioso de Dwayne Johnson como o Rei Escorpião, alimentando dados de vídeo AI de Johnson no início do mesmo filme.
- Os lábios de Henry Cavill fixaram-se em Superman: artistas de efeitos visuais foram forçados a esconder o bigode de Cavill em algumas cenas da Liga da Justiça com resultados de desenho animado. Essa comparação lado a lado mostra como uma farsa profunda pode fazer muito melhor.
- O rosto de Arnold Schwarzenegger em Bill Hader: Neste clipe, Bill Hader personifica a voz de Arnold, e o rosto de Arnold é profundamente falsificado por Ctrl Alt Face no corpo de Hader. O efeito é removido quando Hader usa sua voz normal e aplicado quando ele personifica Schwarzenegger.
- A voz de Joe Rogan profundamente falsificada pela IA: Neste clipe, o áudio do podcast de Joe Rogan foi alimentado em um algoritmo de IA para criar um modelo de voz realista capaz de dizer praticamente qualquer coisa.
Como você identifica falsificações profundas?
À medida que a tecnologia avança, fica cada vez mais difícil detectar a diferença entre uma falsificação profunda e a verdadeira. Alguns são mais fáceis de detectar do que outros, mas os melhores parecem e soam extremamente reais. Você terá mais facilidade em detectar os criados por amadores que não são capazes de aproveitar uma tonelada de experiência e poder de processamento, mas você deve estar atento a sinais reveladores de interferência de IA. Veja como você pode identificar uma farsa profunda:
- Olhe para as bordas do rosto: Se o AI não foi fornecido com dados de entrada suficientes, o novo rosto pode ser colado desajeitadamente na cabeça original, criando linhas óbvias de demarcação ou resultando em um formato de rosto que não parece correto.
- Examine o cabelo: Se você pode ver fios de cabelo individuais cruzando o rosto, provavelmente é um vídeo real. A IA tem dificuldade em gerar cabelos realistas, e cabelos individuais geralmente não serão visíveis em partes geradas por IA de um vídeo.
- Preste atenção à boca e aos dentes: AI normalmente tem problemas para gerar dentes individuais, o que pode ser fácil de detectar se o vídeo tiver resolução alta o suficiente. Procure também por erros quando a boca está abrindo e fechando.
- Se a pessoa desviar o olhar, pause o vídeo: Falsificações profundas funcionam muito bem quando a pessoa está de frente para a câmera, mas podem ter dificuldade ao alternar para uma foto de perfil ou se a pessoa se afastar completamente da câmera.
- Desconfie de fontes de informação desconhecidas: Embora seja possível que uma fonte confiável seja enganada e exiba uma farsa profunda como se fosse real, é muito menos provável que você seja enganado se se limitar a fontes de notícias confiáveis.
