A empresa Metaphysic, responsável por viralizar um vídeo com deepfake altamente convincente do ator Tom Cruise, começou recentemente a circular uma campanha em prol do uso “ético” da inteligência artificial.
A grande hipocrisia disso é que um dos fundadores da Metaphysic, Chris Umé, está supostamente vinculado a um coletivo de desenvolvedores que faz pornografia com o rosto de pessoas famosas e anônimas, sem o consentimento delas, claro. A história foi publicada no site Motherboard, da revista canadense Vice.
Segundo constatou a publicação, Chris Umé é um dos principais colaboradores do DFL (DeepFaceLab), o mais importante projeto GitHub de código aberto que alimenta a grande maioria da geração de deepfakes.
Além de Umé, outros nomes que aparecem como colaboradores contumazes do DFL é o do russo Ivan Perov e de membros do Mr. Deepfakes – o maior site de pornografia não consensual da internet, que inclusive monetiza esses vídeos.
Umé também é listado como colaborador em um trabalho de pesquisa sobre o projeto DFL ao lado de Perov e Mr. Deepfakes. O cofundador da Metaphysic e um outro funcionário ainda são membros ativos de um canal chamado DeepFaceLab Discord, que discute melhorias para o projeto e produzem em conjunto vídeos deepfake.
Até aí não se pode argumentar que Chris Umé possa ter ligação direta com a pornografia. O grande problema, como sugere a reportagem do Motherboard, é que é impossível estar envolvido com o DeepFaceLab sem apoiar ativamente a pornografia não consensual.
E explica: a página do GitHub onde está hospedado o código aberto do DeepFaceLab traz uma visão geral do software, mas orienta os interessados na tecnologia a acessar o Mr. Deepfakes. É no site pornográfico onde os desenvolvedores vão encontrar o guia principal do programa, ou seja, o conjunto de dados que tornam os deepfakes possíveis.
O Mr. Deepfake ainda possui um fórum, do qual Umé também fazia parte até recentemente, onde os membros discutem e fazem sugestões sobre o software. A maioria dos criadores de pornografia deepfake não consensual também credita abertamente seu trabalho ao DeepFaceLab.
Na prática, o Mr. Deepfakes não é apenas um site que hospeda vídeos pornográficos, postados diariamente, com o rosto de celebridades, especialmente mulheres. .
Outras evidências
A conexão entre Umé, DeepFaceLab e Mr. Deepfakes também ficou clara quando o cofundador da Metaphysic aparece como sendo um dos autores do artigo acadêmico intitulado: “DeepFaceLab: Estrutura de troca de rosto integrada, flexível e extensível”. Além dele, assina o “Sr. Dpfks”, apelido da pessoa que opera o Mr. Deepfakes.
O material foi enviado em maio de 2020 para o site Arvix – que reúne artigos científicos nos campos da matemática, física, ciência da computação, biologia quantitativa e estatística. O artigo apresenta todo o espectro de personagens envolvidos com a tecnologia deepfake e como eles ainda estão ligados à pornografia não consensual.
Segundo o Google Acadêmico, Umé e seu artigo já foram citados nominalmente em 83 outros trabalhos produzidos por universidades, conferências e empresas, incluindo a ByteDance (proprietária do TikTok), a OTAN StratCom COE e a Disney.
No próprio canal de Umé no YouTube, há um vídeo que explica como ele criou o viral DeepTomCruise e faz um link para o DeepFaceLab. E como o próprio DFL Github deixa claro, se alguém quer realmente aprender a usar o software e participar de sua melhoria, precisa visitar o Mr. Deepfakes.
Para os especialistas, essa conexão entre um software de código aberto e a indicação de um site pornô é um incentivo, uma espécie de escola, estimulando e perpetuando desenvolvedores recém-iniciados a trabalhar na pornografia não consensual. E alertam sobre o perigo que os deepfakes representam na disseminação de desinformação, especialmente política.
A Vice destaca que a publicação não encontrou até o momento nenhuma evidência que credite Chris Umé à produção de vídeos pornográficos.
O outro lado
A Metaphysic nega qualquer ligação da empresa com origens obscenas, mas proibiu o co-fundador de dar entrevistas. A empresa se limitou a afirmar que usa uma variedade de softwares, especialmente próprios, e que não tem qualquer vínculo com o DeepFaceLab.
“A Metaphysic não endossa nenhum site ou plataforma que use software de terceiros de código aberto, incluindo DeepFaceLab, para atividades prejudiciais”, disse um dos fundadores da Metaphysic, Thomas Graham, a Vice.
No entanto, um vídeo no catálogo comercial do site da Metaphysic mostra que um anúncio feito para a Associação Belga de Futebol fez uso do DeepFaceLab. Ainda assim, a Metaphysic já recebeu US$ 7,5 milhões em investimentos, de Logan Paul, Winklevoss Capital e outras empresas de capital de risco.
Já os porta-vozes do GitHub afirmaram que condenam o uso da plataforma para a produção de conteúdo sexualmente obsceno e afirmou que a conduta é proibida nos Termos de Serviço e Políticas de Uso Aceitável.
O site norte-americano dá a entender, nas entrelinhas, que talvez uma das razões de ser da Metaphysic seja “apagar o incêndio” que alguns de seus fundadores criaram. Em outras palavras: criar um problema para depois vender a solução.
Ou seja, o propósito da empresa iria além de criar conteúdo deepfake comercial e lucrativo para seus clientes, mas estreitar a relação com governos para criar regulamentações a respeito da tecnologia, entre outros potenciais negócios.
Em entrevista ao Motherboard, Graham chegou a enfatizar o compromisso da Metaphysic em não apenas produzir conteúdo ético gerado por IA, mas apontou para o Synthetic Futures da empresa, “a primeira comunidade dedicada à ética mídia sintética e o futuro da realidade criada com máquinas.”
Em outras participações na imprensa internacional, a empresa tem reforçado essa ideia, conduzindo sempre as entrevistas sobre o potencial dos negócios envolvendo a tecnologia e de temas como ética e virais, afastando a relação dos deepfakes com a pornografia.
