O Google acabou de me dar um gêmeo Deepfake

0
29

Está quente. Tipo, realmente quente, o que é raro em Dolores Park. Eu fico lá. Um dinossauro é pré-histórico e paciente. Eu canto para isso. Um cupcake aparece. Vela rosa. Truque de mágica ou falha? Quando eu apago a cera, a fera CGI parece satisfeita. Presunçoso, quase.

Aquele homem cantando se parece comigo. Parece comigo, principalmente. Mas não sou eu.

Isso vem do Google Gemini. Novo recurso de avatar. Ele clona sua voz e rosto e, em seguida, coloca esse doppelganger digital em vídeo. Baseia-se no Omni, seu novo modelo de vídeo. Você precisa da assinatura Pro de $ 20 para isso.

Eu bati na tampa. Rápido. O uso é redefinido a cada cinco horas. Fiz perguntas, queimei dois clipes e fui expulso. “Espere”, disse o bot. Rude.

Dois clipes. Dinossauro. Surfista sob a ponte Golden Gate. Impressionante. Repugnante. Digno de vergonha também. Lógica confusa. Roupas que não fazem sentido. Mas o rosto… ampliado, os dentes estão um pouco errados. Gordura no queixo, entretanto? Está aí. Reece 2. OpenAI tinha Sora. Eles permitem que as pessoas clonem outras também. O Google não. Os adultos só podem clonar a si mesmos. Por agora.

Cinco minutos é o suficiente. Quarto luminoso. Câmera do telefone. Leia números de dois dígitos em voz alta. Olhe certo. Gire para a esquerda. Feito. Tenha cuidado com sua roupa. Aquela jaqueta jeans que você adora pode se tornar sua prisão de IA.

Vejamos o vídeo do aniversário.

Prompt: Gere um vídeo meu cantando parabéns para um velho dinossauro na colina Dolores Park.

Começa com uma pausa. Uma hesitação milenar. O fundo é assustadoramente preciso. Não é um parque genérico. Este é aquele parque. Palmeiras. Torre Salesforce se aproximando. O Google mapeia o mundo, lembra? Eles conhecem a geometria das colinas.

Depois o canto. Melhor barítono que o meu. Menos instável. As mãos saltam como um minicondutor. Então vem “para”. Ele gagueja. Corte em grande angular. Caos. O cupcake desaparece? Aparece? Eu expiro fumaça? Para apagar uma vela? IA rude. Era meu aniversário, essencialmente.

O segundo clipe. Surfista.

Prompt: Gere um vídeo meu navegando sob a Ponte Golden Gate.

Terno jeans. Sem sapatos. Escolha estranha para água. O ângulo da câmera parece uma GoPro colada no quadro. Textura realista. Lógica ruim.

As mulheres sofrem mais com essa tecnologia. Deepfakes não consensuais são um verdadeiro pesadelo. O Google diz que a segurança está em primeiro lugar.

“Tentamos evitar danos”, disse-me Nicole Brichtova, da DeepMind. “Mas não bloqueamos coisas benignas.”

Equilíbrio? Talvez.

A gagueira é óbvia. Erros aparecem. Ainda.

A sensação permanece. Esses clipes parecem mais reais do que meu último correio de voz. Ou um vídeo meu em um bar na sexta-feira. O avatar não é uma versão melhor e mais quente. Não.

Sou só eu. Mas sempre pronto. Em qualquer lugar. Sempre atuando.