Collien Ulmen-Fernandes e os deepfakes de IA: como proteger a identidade

As luzes no estúdio são intensas, quase desconfortavelmente honestas.

Collien Ulmen-Fernandes está na maquilhagem: rotina conhecida, pó, pincéis, os últimos retoques. No monitor do corredor passa, sem som, uma peça com um rosto familiar a dizer coisas que ela nunca disse. Planos de corte, movimentos labiais, tudo perfeitamente sincronizado - só que as frases vêm de um algoritmo. Alguém lhe mostra no telemóvel um vídeo falso dela própria, montado, com palavras alheias na sua boca. Bastam poucos segundos para sentir um frio a sério. Todos conhecemos esse instante em que se torna evidente: aquilo que vemos pode ser mentira - e de forma assustadoramente convincente.

Quando a nossa própria identidade se torna matéria-prima

Collien Fernandes descreve esse choque como uma perda de controlo sobre o próprio rosto. Vês-te, ouves a tua voz e, ainda assim, há ali algo estranho, tóxico. Para muita gente, isto continua a soar abstrato, um tema “de tecnologia”. Para ela, tornou-se de repente íntimo, quase físico. De um momento para o outro, já não é ficção científica, mas o medo muito real de alguém fazer o que quiser com a tua “casca” digital. Um clique, um upload - e um falso vídeo da Collien começa a circular em chats algures.

O que lhe aconteceu é apenas um exemplo de uma vaga de relatos que vai chegando, discreta, mas cada vez mais frequente. Influenciadoras com os rostos colados a vídeos pornográficos. Políticos a quem atribuem declarações inventadas. Pessoas comuns cuja voz é clonada para enganar a avó ao telefone e sacar dinheiro. De acordo com um inquérito recente da Bitkom, mais de 20% dos alemães já viveram conscientemente um falso gerado por IA - ou viram algo assim no seu círculo. E é provável que o número real seja maior, porque muita gente nem sequer percebe que está a ver um deepfake.

Nada disto tem magia: é um sistema alimentado por cada segundo de vídeo que publicamos. Quanto mais selfies, stories e entrevistas existirem, mais simples se torna recriar rostos e vozes. Antes, eram precisos um estúdio de cinema e efeitos especiais; hoje, basta um portátil, alguma paciência e um “faz-tudo” minimamente habilidoso. A fronteira entre “brincadeira” e ataque é, aqui, assustadoramente baixa. E, sejamos honestos, no dia a dia ninguém analisa todas as mensagens de voz e todos os vídeos com rigor forense.

Como nos podemos proteger na prática - sem entrar em pânico

Primeiro, a verdade menos simpática: não existe proteção a 100% contra abuso de IA. Ainda assim, há maneiras de reduzir a exposição e de perceber mais depressa quando algo descarrila. Uma abordagem pragmática começa pelo essencial: tornar o perfil privado, não expor cada detalhe da vida, evitar vídeos em grande plano e em alta resolução que fiquem acessíveis a qualquer pessoa. Para quem tem visibilidade pública, como Collien Fernandes, este “luxo” é limitado. Para todos os outros, funciona como um cinto de segurança digital: não se nota, mas pode fazer a diferença quando é preciso.

O segundo pilar é transformar a desconfiança em hábito - não em paranoia. Se uma voz ao telefone diz ser de um familiar, confirmar rapidamente. Ligar de volta para o número conhecido, fazer uma pergunta de controlo que só amigos verdadeiros saberiam responder. E encarar com distância mínima os vídeos que puxam pelas emoções - supostas declarações escandalosas, cenas íntimas, gravações “fugidas”. Todos conhecemos o impulso de partilhar logo quando algo nos choca. É precisamente esse reflexo que os autores destes ataques exploram.

A própria Fernandes sublinha, em entrevistas, o quanto foi importante procurar conversa quando se viu confrontada com possíveis conteúdos falsos. Em vez de se encolher, tornar o caso visível. Parece simples, mas é uma ferramenta poderosa, sobretudo para quem tem alcance.

“O que mais me assusta não é a tecnologia”, diz Collien em sentido geral, “mas a facilidade com que as pessoas acreditam em falsificações quando isso encaixa na sua visão do mundo.”

• Falar em vez de calar quando surge um falso - quem é visado precisa de aliados.
• Definir limites, também perante as plataformas, e denunciar os conteúdos de forma consistente.
• Sensibilizar o próprio círculo, para que pais, avós e crianças reconheçam burlas com IA.
• Travar as emoções: pensar primeiro e só depois partilhar - nunca ao contrário.

Porque a experiência da Collien nos diz respeito a todos

O caso de Collien Fernandes funciona como uma lente de aumento para uma evolução que já está em marcha. O que antes atingia sobretudo VIPs e políticos está a infiltrar-se no quotidiano de utilizadores comuns. Quanto mais tempo vivemos online, maior fica a nossa “sombra de dados”, que sistemas de IA podem explorar. De repente, não é apenas a tua palavra-passe que vale alguma coisa: também o teu riso numa mensagem de voz, o teu rosto num reel de férias, o ar ligeiramente irritado numa reunião por Zoom. A partir daí, pode construir-se uma cópia digital suficientemente credível para destruir confiança.

E a constatação fria é esta: o direito, a tecnologia e a consciência pública ainda vão atrás do prejuízo. Estão a surgir leis contra deepfakes, as plataformas testam marcas de água e software de deteção, e as escolas lançam projetos de literacia mediática. Mas, enquanto comissões debatem, alguma aplicação já está a gerar o próximo telefonema falso a uma senhora idosa, a quem dizem que o “neto” precisa de ser salvo. É um cenário sombrio, mas também um alerta realista. Quem hoje afirma “isto não me toca” subestima a rapidez com que uma foto da última festa pode acabar no contexto errado.

Talvez sejam precisos precisamente casos mediáticos para que o tema saia da bolha tecnológica. Quando alguém como Collien Fernandes conta o que se sente naquele momento de estranheza e afastamento, a discussão abstrata sobre IA torna-se uma história profundamente humana: confiança, identidade e a pergunta sobre em quem ainda podemos acreditar na internet. E sim, assusta - mas também nos torna mais atentos. Partilhar, falar, contrariar: são alavancas pequenas, mas reais, ao alcance de todos.

Ponto-chave	Detalhe	Valor para o leitor
Falsos de IA tornam-se mais pessoais	Rostos e vozes podem ser copiados de forma muito convincente com pouco esforço	Cresce a consciência de que qualquer pessoa pode ser afetada, não apenas celebridades
Estratégias de proteção para o dia a dia	Menos material público, truque do telefonema de retorno, distância emocional antes de partilhar	Passos concretos para reduzir riscos de burla e detetar sinais de alerta mais depressa
Comunicação aberta	Não esconder falsos: nomear, denunciar e acompanhar mediaticamente	Fortalece quem é visado e diminui o impacto de desinformação e vergonha

FAQ:

• Pergunta 1 O que aconteceu exatamente a Collien Fernandes? Foi confrontada com a possibilidade de estarem a circular conteúdos gerados por IA com o seu rosto ou a sua voz - um cenário que muitas figuras públicas vivem atualmente. Daí nasceu o seu alerta público sobre o abuso de IA e deepfakes.
• Pergunta 2 Isto também pode acontecer a pessoas “normais”? Sim. Assim que fotos, vídeos ou mensagens de voz ficam públicas ou semipúblicas, podem, em teoria, ser usadas para falsificações. Muitas vezes, chega material de redes sociais ou de grupos de mensagens que alguém reencaminhou.
• Pergunta 3 Como posso reconhecer falsos de IA? Pistas típicas incluem expressão facial ligeiramente artificial, sequências estranhas de pestanejar, reflexos de luz no rosto que não batem certo ou uma voz que soa um pouco “alisada”. Contradições de contexto - local errado, hora errada - também são indícios fortes.
• Pergunta 4 O que devo fazer se existir um falso meu? Documentar tudo (capturas de ecrã, ligações), denunciar diretamente na plataforma e informar pessoas próximas. Em casos graves - danos reputacionais, burla ou conteúdos sexualizados - procurar aconselhamento jurídico e, se necessário, apresentar queixa.
• Pergunta 5 Ainda faz sentido publicar coisas sobre mim? Sim, mas com mais consciência. Nem todos os detalhes da vida privada precisam de ser públicos. Quem tem noção dos riscos pode continuar a usar redes sociais - com um olhar um pouco mais crítico sobre o que deve realmente ficar online.

---