O YouTube acaba de melhorar seus mecanismos de detecção de deepfakes, vídeos falsos feitos com IA que geralmente são usados para denegrir a imagem de indivíduos.
Essa medida foi implementada ao mesmo tempo que acontece uma escalada de melhoria nos resultados de inteligências artificiais capazes de criar vídeos.
Com toda essa facilidade, não é de se estranhar que o YouTube fosse inundado desses contéudos fake. Porém, agora a maior plataforma de vídeos do mundo é capaz de identificar e derrubar deepfakes, sobretudo aqueles que usam rostos de famosos.
YouTube vs deepfakes
Para tentar conter o avanço dos deepfakes, o YouTube passou a apostar em uma abordagem mais automatizada. A plataforma ampliou o uso de uma tecnologia chamada “Likeness Detection”, que funciona de forma parecida com o Content ID, mas focada em semelhança facial.
Na prática, isso permite identificar vídeos gerados por IA que utilizam o rosto de alguém sem autorização. Caso isso aconteça, o conteúdo pode ser sinalizado e removido.
O recurso agora também atende artistas e profissionais do entretenimento, mesmo que eles não tenham canal na plataforma. Ainda assim, o YouTube afirma que analisa o contexto antes de remover um vídeo, principalmente em casos de sátira ou paródia.
Recentemente, a plataforma também lançou uma ofensiva contra os chamados “clickbaits”, títulos sensacionalistas que, em alguns casos, induzem o usuário a consumir um conteúdo que não é tão interessante quanto parece.
Você também pode gostar
Como a detecção será feita?
O sistema combina reconhecimento facial com verificação de identidade.
Para usar a ferramenta, a pessoa precisa validar sua identidade com documentos e, em alguns casos, vídeos. A partir disso, o YouTube passa a comparar esse rosto com conteúdos publicados na plataforma.
Se um vídeo apresentar alta semelhança, ele é sinalizado, permitindo que o titular solicite a remoção. A lógica é semelhante ao Content ID, mas voltada à proteção da imagem.
Segundo o YouTube, esses dados não são usados para treinar modelos de IA.
LEIA MAIS:
- YouTube TV permite que usuários criem seu próprio mosaico de canais
- Fim dos Shorts? Recurso ‘oculto’ do YouTube limita a reprodução de vídeos curtos
Um assustador problema que a IA trouxe consigo
O avanço das IAs generativas facilitou a criação de deepfakes cada vez mais realistas. Hoje, esses vídeos já são usados em golpes, desinformação e até ataques à reputação. Em muitos casos, o nível de realismo é suficiente para enganar usuários comuns.
E o problema vai além das celebridades. Qualquer pessoa pode ter sua imagem utilizada sem autorização, o que amplia os riscos.
Diante disso, iniciativas como a do YouTube tentam conter os abusos. Ainda assim, o desafio continua, principalmente porque esse tipo de conteúdo se espalha para além de uma única plataforma.
