Facebook anuncia política de combate aos “Deep Fakes”
Com ajuda de especialistas de todo o mundo, rede social vem desenvolvendo políticas de detecção para barrar os vídeos enganosos automaticamente
Você já ouviu falar sobre os “Deep Fakes”? Para muitos, a expressão não diz muita coisa, mas todos os usuários de redes sociais devem ficar atentos a ela. Trata-se da versão em vídeo das chamadas fake news. Por meio de Inteligência Artificial, o rosto de uma pessoa pode ser trocado por outro, com movimentos labiais e expressões sincronizadas com a fala. Quando bem feitos, esses vídeos apresentam resultados espantosos e muito convincentes e podem enganar muita gente. E por esse motivo, o Facebook decidiu concentrar esforços para barrar esse tipo de conteúdo.
Índice:
O surgimento dos Deep Fakes
Trocar os rostos de pessoas em vídeos não é nenhuma novidade na internet. No entanto, de acordo com o Tecnoblog, em dezembro de 2017 essa prática alcançou um estágio muito mais elevado de sofisticação. Um usuário do Reddit chamado deepfakes usou ferramentas de Inteligência Artificial e Aprendizado de Máquina (Machine Learning) de código aberto e criou um algoritmo para mapear o rosto de uma pessoa e incluir no corpo de outra em vídeos. Eles são capazes de enganar o “usuário médio”, que mesmo não sendo absolutamente leigo, pode acabar sendo enganado e, na pressa, cair no conto de uma narrativa falsa.
“Embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para nossa indústria e sociedade, à medida que seu uso aumenta”, diz o comunicado do Facebook, assinado pr Monika Bickert, Vice-Presidente de políticas globais da empresa. “Hoje, queremos informar como estamos lidando com Deep Fakes e todos os tipos de mídia manipulada. Nossa abordagem tem vários componentes, desde a investigação de conteúdos gerados pela Inteligência Artificial e comportamentos enganosos, como contas falsas, até parcerias com universidades, governo e indústria, para expor as pessoas por trás dessas manipulações”, completou.
Consultoria de especialistas de todo o mundo
Segundo a executiva, o Facebook consultou mais de 50 especialistas de todo o mundo, com formações técnicas, políticas, de mídia, jurídicas, cívicas e acadêmicas. Visando aprimorar o desenvolvimento de políticas da plataforma e melhorar a detecção de mídias manipuladas.
Nossa abordagem tem vários componentes, desde a investigação de conteúdos gerados pela Inteligência Artificial e comportamentos enganosos, como contas falsas, até parcerias com universidades, governo e indústria, para expor as pessoas por trás dessas manipulações.
Critérios de exclusão
Como resultado dessas parcerias e discussões com especialistas, o Facebook anunciou que está reforçando sua política em relação às Deep Fakes. E prometeu no futuro – sem especificar a partir de quando – remover mídias manipuladas e enganosas caso elas atendam aos seguintes critérios:
- O vídeo foi editado ou sintetizado – indo além de ajustes de clareza ou qualidade – de uma maneira que não é aparente para uma pessoa comum. E, provavelmente, levaria alguém a pensar que a pessoa do vídeo disse palavras que na verdade não disse.
- Casos em que o vídeo é produto da Inteligência Artificial ou do Aprendizado de Máquina, que mescla, substitui ou sobrepõe conteúdo a um vídeo, fazendo com que pareça autêntico.
Esta política, no entanto, não se estende a conteúdos que são paródias ou sátiras. Ou vídeos que foram editados apenas para omitir ou alterar a ordem das palavras.
Padrões da comunidade
A executiva lembrou também que, de acordo com as políticas do Facebook, áudio, fotos ou vídeos serão removidos da plataforma caso violem qualquer um dos outros “Padrões da comunidade”. Sejam eles falsos ou não. E isso inclui conteúdos de nudez, violência gráfica, supressão de eleitores (estratégias usadas para influenciar nos resultados de eleições) e discurso de ódio.
Bickert informa no comunicado que os vídeos apontados como falsos e que não atendem aos padrões de remoção automática ainda são submetidos a uma revisão, feita por parceiros de checagem de fatos de 50 instituições em todo o mundo, em mais de 40 idiomas.
Atualmente já circulam na internet vídeos de humor com rostos de políticos famosos em corpos de dançarinos ou cenas de novela. Então, se é possível fazer isso, enganar em outros tipos de vídeo, como trocar o rosto de uma pessoa por outra e mudar a voz não é muito difícil.
O usuário também deve checar a veracidade dos vídeos
De acordo com Thiago Porto, pesquisador da PROTESTE, é importante o usuário não se ater somente a essa ajuda que o Facebook vai dar, mas também procurar por tais informações na internet, em fontes confiáveis, para ter certeza sempre que desconfiar de algo.
“Atualmente já circulam na internet vídeos de humor com rostos de políticos famosos em corpos de dançarinos ou cenas de novela. Então, se é possível fazer isso, enganar em outros tipos de vídeo, como trocar o rosto de uma pessoa por outra e mudar a voz não é muito difícil. Por isso, o usuário deve ficar sempre ligado quando se deparar com algum vídeo que, de alguma forma, mostre opiniões muito diferentes das que o personagem em questão costuma dar”, diz Thiago.
