O chefe do Instagram, Adam Mosseri, admitiu que a rede social ainda não sabe como combater uma nova onda de vídeos falsos criados por inteligência artificial (IA). O problema envolve perfis que utilizam personagens digitais para reproduzir conteúdos de artistas reais, principalmente comediantes, e até ganhar dinheiro com as publicações. Segundo o jornal britânico The Independent, a declaração ocorreu após denúncias de humoristas que tiveram suas apresentações reproduzidas por mulheres criadas por IA. Alguns desses perfis acumulam centenas de milhares de seguidores e direcionam o público para plataformas de conteúdo adulto, como OnlyFans e Fanvue. Em uma resposta pública ao comediante George Brett Olson, Mosseri afirmou estar "muito preocupado" com a tendência. O executivo também reconheceu que a empresa ainda procura uma solução para impedir esse tipo de apropriação de conteúdo. "Estamos tentando descobrir o que fazer. É um problema complicado", escreveu o executivo, em tradução livre. Como funcionam os vídeos falsos no Instagram? O problema ganhou repercussão após comediantes encontrarem vídeos nos quais personagens gerados por IA reproduziam suas piadas, incluindo falas, pausas e até detalhes das apresentações originais. Em um dos casos, George Brett Olson encontrou um vídeo de uma influenciadora virtual chamada Tiffany Sloane reproduzindo uma de suas apresentações. Segundo a revista WIRED, o conteúdo utilizava um cenário semelhante ao original e roupas parecidas com as do comediante. Na ocasião da investigação, o perfil de Tiffany já acumulava mais de 375 mil seguidores e divulgava uma conta no OnlyFans. Outro exemplo envolve Julia Jasunas, que teve uma de suas piadas reproduzida pela personagem virtual Aylen Skye, com aproximadamente 250 mil seguidores. Nesse caso, o perfil promovia conteúdos adultos na Fanvue, concorrente do OnlyFans que também permite a monetização de personagens criados por IA. A WIRED identificou oito comediantes que tiveram apresentações reproduzidas por perfis desse tipo. Algumas das versões artificiais conseguiram alcançar públicos maiores que os vídeos originais. Jasunas chegou a denunciar uma das publicações por falsidade de identidade, mas afirmou que o Instagram não identificou uma violação de suas diretrizes . Isso porque a personagem digital reproduzia o conteúdo da artista sem fingir ser ela. Embora sejam frequentemente chamados de deepfakes, os vídeos desse caso utilizam personagens inteiramente digitais. A prática difere da manipulação de imagens que reproduzem o rosto ou a voz de uma pessoa real sem autorização. Por que o Instagram não consegue impedir os vídeos? De acordo com Mosseri, uma proibição geral de conteúdos gerados por inteligência artificial seria inviável . O executivo argumenta que essas publicações estão cada vez mais difíceis de identificar e que nem todas representam problemas. O Instagram já oferece mecanismos para denunciar violações de direitos autorais, mas eles não resolvem todos os casos de apropriação de conteúdos, especialmente apresentações de humor e dança. O executivo reconheceu que muitos artistas não possuem registros formais de suas obras e defendeu a criação de mecanismos adicionais de proteção. Também citou a necessidade de evitar denúncias falsas utilizadas para prejudicar outros criadores. Apesar da declaração, a Meta já havia anunciado medidas para privilegiar conteúdos originais no Instagram. Em abril de 2024, a empresa informou que passaria a substituir republicações por vídeos originais nas recomendações do aplicativo. A regra, porém, prevê exceções para materiais significativamente modificados, incluindo dublagens e outras transformações. Esse critério ajuda a explicar uma das dificuldades atuais: os perfis denunciados utilizam uma nova personagem digital para apresentar conteúdos copiados, o que dificulta a identificação por sistemas que procuram vídeos idênticos. Até o momento, Mosseri não anunciou uma nova ferramenta ou regra específica para combater essa prática. IA e conteúdo adulto já preocupavam o OnlyFans O uso de personagens artificiais para atrair assinantes de plataformas adultas já era motivo de preocupação antes da atual polêmica. Em fevereiro de 2023, o Canaltech [object Object] . Na época, a popularização de ferramentas de geração de imagens levantava questionamentos sobre a venda de fotografias de pessoas que sequer existiam. Desde então, influenciadoras virtuais passaram a conquistar seguidores e a comercializar conteúdos exclusivos. Um exemplo é Aitana Lopez, modelo espanhola criada por IA que chegou a faturar milhares de euros com publicidade e trabalhos digitais, conforme [object Object] . A situação atual acrescenta um problema aos criadores de conteúdo: o uso de trabalhos produzidos por pessoas reais para promover personagens digitais e gerar receita para os responsáveis pelos perfis. Enquanto isso, o Instagram segue permitindo a publicação de materiais produzidos por inteligência artificial, desde que respeitem suas regras. A plataforma também utiliza rótulos para identificar conteúdos sintéticos, embora isso não impeça que vídeos artificiais reproduzam trabalhos de terceiros.
