Deepfakes podem ser bons?

Mas não vamos nos antecipar: a tecnologia ainda é predominantemente usada para assediar.

Lançar o novo documentário da HBO Bem-vindo à Chechênia , e você pode nem perceber que muitos dos rostos que você vê são editados.

Bem-vindo à Chechênia segue sobreviventes dos expurgos anti-gay da República Chechena. Falar é arriscado, então os produtores tentei um novo método para manter os entrevistados anônimos: deepfakes.

Deepfakes usam IA para manipular vídeo ou áudio – você pode trocar rostos ou dizer algo na voz de outra pessoa.



O documento da HBO é talvez o uso mais importante da tecnologia deepfake para proteção de privacidade.

Mas faz parte de um campo em crescimento: a startup Teus Media oferece um “véu digital” que troca digitalmente os rostos de, digamos, sobreviventes de agressão sexual.

Espere, eu pensei que os deepfakes eram usados ​​para assediar as pessoas?

Não fique com a impressão errada: Um relatório descobriram que 96% dos deepfakes na internet envolvem pornografia, praticamente todos feitos sem o consentimento do sujeito.

Deepfakes também têm sido usados ​​para espalhar desinformação, como uma vídeo adulterado de Nancy Pelosi no ano passado deixou claro. O Facebook tentou banimento eles completamente.

Mas essas falsificações também podem ter algumas vantagens:

  • Startups como D-ID alegar eles podem manipular vídeos para esconder seu rosto se, digamos, você for pego em um circuito fechado de TV.
  • A empresa Synthesia fez dublagem menos terrível - apenas observe seu vídeo de David Beckham falando em 9 idiomas.
  • O fornecedor de software de direção autônoma Oxbotica treina seu sistema gerando milhares de imagens de cenários rodoviários da vida real.
  • Em um caso que talvez seja menos “bom para a sociedade” e mais “bom para o cinema”, a Disney se aproximou para aperfeiçoar deepfakes em filmes de grande orçamento.

Podemos mantê-lo fora das mãos erradas?

Se decidirmos que há aspectos positivos da tecnologia deepfake, o Revisão de Tecnologia do MIT considerado maneiras de garantir que não seja abusado.

Algumas ideias: os fornecedores de deepfake devem examinar seus clientes em profundidade, adicionar marcas d'água de vídeo e manter registros de quem usa a tecnologia.

Algumas empresas também criaram maneiras de restringir quais rostos ou vozes podem ser manipulados em um determinado vídeo.

Em essência: você pode ter licença para brincar com a voz de David Beckham, mas a tecnologia congelará se você passar para outra pessoa.