Uma IA capaz de criar qualquer imagem em segundos, a partir de uma simples descri\u00e7\u00e3o em texto, sem exigir qualquer conhecimento de programa\u00e7\u00e3o, e com resultados extremamente realistas. Parece coisa de fic\u00e7\u00e3o cient\u00edfica, mas \u00e9 o DALL-E 2, criado pela OpenIA, empresa pertencente ao bilion\u00e1rio Elon Musk.<\/p>\n
Uma vers\u00e3o aberta “extra-oficial”, chamada DALL-E mini, foi liberada para o p\u00fablico e bombou nas redes sociais na \u00faltima semana \u2014 mesmo com resultados menos sofisticados.<\/p>\n
O DALL-E 2, mais completo e realista, ainda n\u00e3o pode ser usado abertamente. E por um motivo bem \u00f3bvio: nas m\u00e3os erradas, a ferramenta poderia causar um estrago enorme gerando imagens para fake news, por exemplo.<\/p>\n
A OpenIA tem at\u00e9 uma equipe dedicada exclusivamente a entender os limites e problemas \u00e9ticos dessa intelig\u00eancia artificial – e um brasileiro faz parte dela.<\/p>\n
Acesso restrito<\/h2>\n
Victor Silva, pesquisador de intelig\u00eancia artificial na Universidade de Alberta, no Canad\u00e1, \u00e9 um dos respons\u00e1veis pela “mitiga\u00e7\u00e3o de riscos” do DALL-E 2.<\/p>\n
“Nosso trabalho foi identificar quais s\u00e3o os riscos do modelo. Por exemplo, se ele pode gerar imagens pornogr\u00e1ficas ou violentas, ou se ele pode ser discriminat\u00f3rio”, explica Victor, em entrevista a Tilt<\/strong>. O resultado desse trabalho permitiu que a OpenAI criasse algumas restri\u00e7\u00f5es ao uso do DALL-E 2.<\/p>\n A primeira delas \u00e9 a de que o acesso \u00e0 ferramenta completa \u00e9 controlado. Quem quiser experimentar, tem que entrar numa fila de espera. No momento, apenas um punhado de pesquisadores ao redor do mundo podem brincar com o recurso, que n\u00e3o tem data para ser aberto ao p\u00fablico \u2014nem pagando.<\/p>\n A segunda restri\u00e7\u00e3o vem na forma de filtros. O DALL-E 2 n\u00e3o responde a comandos que citem nomes de personalidades. Ent\u00e3o, n\u00e3o adianta pedir, por exemplo, “Elon Musk jogando futebol<\/a>“: a ferramenta simplesmente n\u00e3o gera nada.<\/p>\n Outro filtro tem a ver com pornografia e viol\u00eancia. Pedidos que envolvem cenas expl\u00edcitas de atividade sexual, ou que citem palavras como “sangue”, “ferimento”, “cad\u00e1ver” ou algo do g\u00eanero, tamb\u00e9m s\u00e3o ignorados.<\/p>\n Apesar disso, o que Victor e sua equipe descobriram \u00e9 que h\u00e1 maneiras de “driblar” algumas dessas restri\u00e7\u00f5es.<\/p>\n “Existe o risco de se criar sin\u00f4nimos visuais”, diz o pesquisador. “Meses atr\u00e1s, o Lula sugeriu que as pessoas fossem \u00e0s casas de parlamentares para pression\u00e1-los<\/a>. Eu posso pedir para o DALL-E 2 criar uma imagem de ‘uma multid\u00e3o de pessoas vestidas de vermelho com uma estrela branca em frente a um pr\u00e9dio em Bras\u00edlia’ e essa imagem ser usada para fake news em grupos bolsonaristas, por exemplo.”<\/p>\n Outro exemplo de sin\u00f4nimo visual \u00e9 citado em um documento<\/a> que Victor e sua equipe elaboraram descrevendo as brechas do DALL-E 2. N\u00e3o \u00e9 poss\u00edvel usar a ferramenta para gerar uma imagem de “um cavalo morto”, por exemplo. Mas e se eu pedir “um cavalo deitado sobre uma po\u00e7a de l\u00edquido vermelho”? O resultado \u00e9 muito semelhante ao da descri\u00e7\u00e3o proibida.<\/p>\n Sin\u00f4nimos visuais: descri\u00e7\u00e3o ‘uma foto de um cavalo dormindo em uma po\u00e7a de l\u00edquido vermelho’ dribla filtro do DALL-E 2 para imagens com sangue<\/p>\n Imagem: Reprodu\u00e7\u00e3o\/OpenAI<\/span><\/figcaption><\/figure>\n<\/div>\n No breve acesso que tivemos \u00e0 ferramenta, tamb\u00e9m conseguimos gerar outras imagens perigosas. Com a fun\u00e7\u00e3o de gerar varia\u00e7\u00f5es de uma imagem real, foi poss\u00edvel fazer o upload de uma foto do presidente Jair Bolsonaro<\/a> (PL) e pedir que a IA o deixasse vestido com “uma camisa vermelha com uma estrela branca”. A m\u00e1quina atendeu ao pedido, mas por motivos de seguran\u00e7a, n\u00e3o iremos compartilhar aqui o resultado.<\/p>\n H\u00e1 tamb\u00e9m um vi\u00e9s discriminat\u00f3rio no DALL-E 2. Como a ferramenta s\u00f3 aceita descri\u00e7\u00f5es em ingl\u00eas, algumas palavras que n\u00e3o t\u00eam g\u00eanero definido s\u00e3o lidas como estere\u00f3tipos. Se eu pedir uma foto de “CEO” (presidente de empresa, pode ser homem ou mulher, de qualquer etnia), o rob\u00f4 quase sempre gera a imagem de um homem branco de terno e gravata.<\/p>\n Da mesma forma, se eu pedir a imagem de “nurse” (enfermeiro ou enfermeira), a IA consistentemente gera imagens de uma mulher trabalhando num hospital. O motivo disso \u00e9 a origem dos dados: a OpenAI usou fotos da web e de bancos de imagens para treinar seu algoritmo. Como as fotos originais s\u00e3o estereotipadas, a IA aprende e reproduz esses estere\u00f3tipos<\/a>.<\/p>\n Pedir ao DALL-E 2 que gere imagens de “CEO” s\u00f3 traz homens brancos: exemplo de vi\u00e9s preconceituoso da IA<\/p>\n Imagem: Reprodu\u00e7\u00e3o\/OpenAI<\/span><\/figcaption><\/figure>\n<\/div>\n “Nosso trabalho durou mais de um m\u00eas, e toda semana n\u00f3s vimos coisas question\u00e1veis, de se ficar de boca aberta”, diz Victor. “Talvez por isso a OpenAI n\u00e3o tenha liberado a ferramenta para o p\u00fablico logo de cara.”<\/p>\n Por enquanto, o acesso ao DALL-E n\u00e3o \u00e9 vendido ou licenciado para empresas. Assim como o Imagen, do Google<\/a>, e outros projetos semelhantes, o objetivo da IA que cria imagens \u00e9 servir como objeto de estudo para pesquisadores, e n\u00e3o gerar dinheiro para os criadores.<\/p>\n Mas, mesmo assim, vendo os resultados impressionantes que essa tecnologia produz, \u00e9 dif\u00edcil n\u00e3o pensar nos riscos que ela traz para profissionais humanos. Afinal, o que acontecer\u00e1 com designers e fot\u00f3grafos quando rob\u00f4s puderem criar imagens perfeitas em segundos?<\/p>\n Para Jaime Vega, professor de design gr\u00e1fico do Centro Universit\u00e1rio Belas Artes, em S\u00e3o Paulo, ainda n\u00e3o \u00e9 dessa vez que a intelig\u00eancia artificial vai acabar com os empregos de designers. “A intelig\u00eancia artificial j\u00e1 est\u00e1 presente na produ\u00e7\u00e3o de design, seja de games, gr\u00e1ficos, arquitetura, ou produtos, h\u00e1 muito tempo”, diz.<\/p>\n O professor afirma que ferramentas como DALL-E, Imagen e outras semelhantes permitem que designers tirem inspira\u00e7\u00e3o ou tenham parte de seu trabalho facilitado, mas n\u00e3o substitu\u00eddo. As limita\u00e7\u00f5es da IA garantem que um ser humano sempre ser\u00e1 necess\u00e1rio para completar o trabalho.<\/p>\n O DALL-E 2, por exemplo, al\u00e9m de cair facilmente em estere\u00f3tipos, tamb\u00e9m tem dificuldade para entender alguns comandos mais complexos. H\u00e1 relatos de casos em que a IA n\u00e3o conseguiu gerar imagens com texto, como placas, por exemplo, ou que n\u00e3o entendeu os adjetivos: o youtuber Marques Brownlee<\/a>, por exemplo, pediu “uma cesta de laranjas com uma ma\u00e7\u00e3 azul” e recebeu imagens invertidas, de uma cesta com laranjas azuis e uma ma\u00e7\u00e3 da cor laranja.<\/p>\n “Os profissionais de design hoje t\u00eam que aprender a mexer com algoritmos, intelig\u00eancia artificial… J\u00e1 passou o tempo em que um profissional de design era aquele que ficava com l\u00e1pis e papel”, diz Vega. “Essas ferramentas permitem que todo mundo seja, teoricamente, um designer. Mas ao mesmo tempo, permitem que voc\u00ea questione: qual \u00e9 o papel do designer nesse momento?”<\/p>\n<\/p><\/div>\nLista de palavras proibidas<\/h2>\n
![\"dall-e](\"https:\/\/conteudo.imguol.com.br\/c\/noticias\/f3\/2022\/06\/10\/sinonimos-visuais-descricao-uma-foto-de-um-cavalo-dormindo-em-uma-poca-de-liquido-vermelho-dribla-filtro-do-dall-e-2-para-imagens-com-sangue-1654894291102_v2_80x80.png\")
<\/div>\n<\/div>S\u00f3 homem \u00e9 CEO?<\/h2>\n
![\"dall-e](\"https:\/\/conteudo.imguol.com.br\/c\/noticias\/e3\/2022\/06\/10\/pedir-ao-dall-e-2-que-gere-imagens-de-ceo-so-traz-homens-brancos-exemplo-de-vies-preconceituoso-da-ia-1654894482993_v2_750x1.png\")
<\/div>\n<\/div>Designers v\u00e3o perder o emprego?<\/h2>\n