Chefe do Instagram admite que ainda não tem solução para combater deep fakes de IA

O chefe do Instagram, Adam Mosseri, admitiu que a rede social ainda não tem uma solução eficaz para enfrentar perfis que utilizam deep fakes gerados por inteligência artificial para reproduzir conteúdo original, o que tem gerado preocupação entre criadores de todo o mundo.

O que são deep fakes e como eles chegam ao Instagram

Deep fakes são vídeos ou imagens manipulados por algoritmos de IA que substituem rostos, vozes ou movimentos por versões sintéticas, mantendo o áudio e o texto originais. No Instagram, esses perfis criam versões falsas de apresentações, performances ou coreografias, trocando o rosto do autor por um avatar gerado por IA. Um caso citado pelo comediante George Brett Olson mostrou um vídeo em que sua fala foi mantida, mas sua imagem foi substituída por um avatar feminino, alcançando mais de 300 mil seguidores e ainda direcionando tráfego para uma página no OnlyFans.

Por que a Meta ainda não impõe proibição geral

Mosseri afirmou estar “muito preocupado” com a prática, mas descartou a ideia de banir completamente conteúdos produzidos com IA. Segundo ele, a tecnologia ainda evolui rapidamente, e nem todo material gerado por IA é nocivo; há também produções criativas e úteis. Uma proibição ampla poderia acabar penalizando conteúdos legítimos, além de tornar a identificação de deep fakes cada vez mais difícil, já que as ferramentas de detecção não acompanham o ritmo das inovações.

Desafios das ferramentas de denúncia e direitos autorais

A plataforma permite que usuários denunciem violações de direitos autorais, mas Mosseri reconhece que o mecanismo atual nem sempre resolve os casos. Muitos criadores não formalizam a proteção de seus trabalhos, o que dificulta a remoção rápida. Além disso, há o risco de denúncias falsas, que podem ser usadas por agentes mal-intencionados para silenciar concorrentes. O executivo ressaltou a necessidade de encontrar um equilíbrio que ajude os autores sem abrir brecha para abusos.

O que isso muda na prática para quem empreende, trabalha com marketing ou cria conteúdo

• Monitore a presença da sua marca: use ferramentas de monitoramento de redes sociais para identificar rapidamente contas que reproduzam seu conteúdo.
• Adote marcas d’água e assinaturas visuais: inserir elementos distintivos em vídeos e imagens dificulta a cópia descarada.
• Utilize os recursos de denúncia do Instagram: ao encontrar um perfil que use deep fake, registre a denúncia e forneça provas de autoria.
• Diversifique os canais de distribuição: não dependa exclusivamente do Instagram; publique também em YouTube, TikTok ou seu site próprio, onde você tem maior controle.
• Considere medidas legais: em casos recorrentes, avalie a possibilidade de acionar direitos autorais ou marcas registradas.

Perspectivas e possíveis caminhos futuros

A Meta está estudando formas de direcionar mais tráfego para os autores originais e de avaliar como agir quando o conteúdo copiado é idêntico ao original. Outras plataformas, como o X, já alteraram seus algoritmos para limitar o alcance de cópias e priorizar criações autênticas. No futuro, espera-se que a combinação de IA de detecção, políticas de atribuição automática e melhorias nos sistemas de denúncia possa reduzir o impacto dos deep fakes, mas o caminho ainda é incerto. Enquanto isso, criadores e profissionais de marketing precisam adotar estratégias proativas para proteger seu trabalho.

Segundo o Tecnoblog, a discussão ainda está em fase inicial, mas a pressão dos próprios usuários pode acelerar a busca por soluções mais eficazes.