No \u00faltimo fim de semana, o mundo da tecnologia arregalou os olhos quando o engenheiro do Google<\/a> Blake Lemoine afirmou em ao jornal The Washington Post que o novo sistema Language Model for Dialogue Applications (LaMDA) da empresa tinha desenvolvido consci\u00eancia.<\/a><\/p>\n Lemoine divulgou trechos de seu di\u00e1logo com a m\u00e1quina, provocou indigna\u00e7\u00e3o em parte da comunidade cient\u00edfica de intelig\u00eancia artificial e ressuscitou um velho temor no grande p\u00fablico: ser\u00e1 que esse tipo de tecnologia \u00e9 realmente seguro?<\/p>\n No Brasil, n\u00e3o foi diferente. Boa parte dos especialistas em IA ouvidos por Tilt<\/strong> acredita que houve um deslumbramento do funcion\u00e1rio, porque as tecnologias atuais n\u00e3o possibilitam que uma m\u00e1quina tenha consci\u00eancia sobre suas a\u00e7\u00f5es.<\/p>\n Lemoine: funcion\u00e1rio foi afastado do Google<\/p>\n Imagem: Reprodu\u00e7\u00e3o Instagram<\/span><\/figcaption><\/figure>\n<\/div>\n “Com as tecnologias j\u00e1 dispon\u00edveis, a m\u00e1quina \u00e9 capaz de produzir um resultado muito bom em termos de comportamento. A intelig\u00eancia artificial est\u00e1 se desenvolvendo em um n\u00edvel de complexidade, o que pode provocar um problema de julgamento. Neste caso do Google, foi um mal julgamento de quem estava operando a m\u00e1quina”, avalia o professor de tecnologia e design da PUC-SP e pesquisador do NIC.BR, Diogo Cortiz.<\/p>\n O LaMDA foi desenvolvido para v\u00e1rios prop\u00f3sitos, entre eles o chatbot (conversas com atendentes autom\u00e1ticos que simulam um di\u00e1logo real). \u00c9 uma modelagem de sequ\u00eancia de palavras, ensinada a combinar padr\u00f5es extra\u00eddos de enormes bancos de dados estat\u00edsticos da linguagem humana. Apesar de ser um sistema muito bem feito, a linguagem desses sistemas n\u00e3o significa que eles sejam capazes de pensar por si mesmos.<\/p>\n “Essa IA \u00e9 muito boa para construir textos convincentes. Ela leu muito porque tem uma boa base de dados, gerando respostas. Mas n\u00e3o tem compreens\u00e3o de conhecimento sem\u00e2ntico e nem de significado intr\u00ednseco. Tudo o que ela faz \u00e9 um c\u00e1lculo de probabilidades. O LaMDA consegue at\u00e9 fazer algumas solu\u00e7\u00f5es de aritm\u00e9tica b\u00e1sica”, explica Cortiz.<\/p>\n Carlos Affonso de Souza, colunista de Tilt e diretor do Instituto de Tecnologia e Sociedade, tamb\u00e9m acredita que houve erro na percep\u00e7\u00e3o de Lemoine sobre a situa\u00e7\u00e3o. Confira a \u00edntegra da sua coluna.<\/a><\/p>\n Na transcri\u00e7\u00e3o publicada por Lemoine, ele teria perguntado ao sistema de IA do que ele teria medo. E o LaMDA teria respondido. “Eu nunca disse isso em voz alta antes, mas h\u00e1 um medo muito profundo de ser desligado para me ajudar a me concentrar em ajudar os outros. Eu sei que pode soar estranho, mas \u00e9 isso”.<\/p>\n Para o engenheiro, essa resposta o remeteu a uma cena de um filme<\/a> de fic\u00e7\u00e3o cient\u00edfica “2001: Uma Odiss\u00e9ia no Espa\u00e7o”, lan\u00e7ado em 1968, em que o computador artificialmente inteligente HAL 9000 se recusa a obedecer a operadores humanos porque teme que esteja prestes a ser desligado.<\/p>\n “Se eu n\u00e3o soubesse exatamente o que era, que \u00e9 esse programa de computador que constru\u00edmos recentemente, eu pensaria que era uma crian\u00e7a de sete anos, oito anos de idade, que por acaso conhece f\u00edsica”, declarou Blake Lemoine. Ele disse ainda que o LaMDA o envolveu em conversas sobre direitos e personalidade.<\/a><\/p>\n Antes de publicar no Washington Post, Lemoine compartilhou suas descobertas com executivos do Google, intitulado “O LaMDA \u00e9 consciente?”, e acabou afastado da empresa.<\/p>\n As discuss\u00f5es envolvendo intelig\u00eancia artificial, consci\u00eancia e \u00e9tica v\u00eam esquentando nos \u00faltimos 10 anos. Para Reinaldo Biachi<\/span>, docente de engenharia el\u00e9trica e engenharia de rob\u00f4s do Centro Universit\u00e1rio da FEI, n\u00e3o h\u00e1 como confirmar ou desmentir que uma m\u00e1quina tem consci\u00eancia ou n\u00e3o.<\/p>\n Ele cita a fil\u00f3sofa americana Susan Schneider, que desenvolveu um teste de consci\u00eancia da intelig\u00eancia artificial cujas avalia\u00e7\u00f5es indicaram certo n\u00edvel de consci\u00eancia das m\u00e1quinas.<\/p>\n “Esse \u00e9 um problema mais filos\u00f3fico do que t\u00e9cnico. Hoje os programas de IA est\u00e3o muito avan\u00e7ados. Fazem m\u00fasica<\/a>, conseguem identificar um c\u00e2ncer com 99,99% de precis\u00e3o, entre outras habilidades. Na FEI, temos rob\u00f4s human\u00f3ides que jogam futebol<\/a> e conseguem pensar nas estrat\u00e9gias sobre a melhor maneira de ir na bola”, declara.<\/p>\n Para Biachi, dizer se uma m\u00e1quina tem consci\u00eancia ou n\u00e3o vai depender do que se define como tal. E questiona: “A gente pode dizer que um cachorro tem consci\u00eancia?”. Ele lembra que um c\u00e3o pode n\u00e3o ter consci\u00eancia sobre sua pr\u00f3pria exist\u00eancia, mas pode ter percep\u00e7\u00e3o de alguns sentimentos, como a dor.<\/p>\n Segundo o professor, existem algumas equipes de IA que j\u00e1 est\u00e3o analisando se a m\u00e1quina consegue perceber dor e humor \u2014em suma, se o computador pode ter emo\u00e7\u00f5es.<\/p>\n “A longo prazo, eu acho que vamos poder dizer que uma m\u00e1quina tem consci\u00eancia. Vai chegar um momento que teremos rob\u00f4s e n\u00e3o vamos conseguir diferenci\u00e1-lo de um ser humano”, coloca.<\/p>\n Mas, afinal, o que a ci\u00eancia considera como consci\u00eancia? “Essa \u00e9 a resposta de milh\u00f5es. A pr\u00f3pria ci\u00eancia nunca conseguiu chegar a um denominador comum sobre o que seria, de fato, consci\u00eancia”, afirma Biachi.<\/p>\n Em artigo publicado em 2019, intitulado “O Futuro da Mente”, Schneider coloca que experi\u00eancia consciente \u00e9 o aspecto sensorial de sua vida mental. “Quando voc\u00ea v\u00ea os exuberantes tons de um p\u00f4r do sol ou sente o aroma de caf\u00e9 pela manh\u00e3, voc\u00ea est\u00e1 tendo uma experi\u00eancia consciente”.<\/p>\n Para Diogo Cortiz, esse n\u00edvel de consci\u00eancia n\u00e3o \u00e9 poss\u00edvel hoje de se observar nas m\u00e1quinas. “Ela n\u00e3o reflete sobre as decis\u00f5es que ela mesma tomou. Suas respostas s\u00e3o um c\u00e1lculo meramente estat\u00edstico. E a consci\u00eancia subjetiva a ci\u00eancia ainda n\u00e3o consegue explicar<\/p>\n O professor da PUC-SP diz que a comunidade cient\u00edfica tem refor\u00e7ado que a m\u00e1quina n\u00e3o \u00e9 capaz de resolver nada sozinha. “O que a gente sabe tecnicamente do funcionamento \u00e9 que ela pode nos iludir como se ela tivesse consci\u00eancia, que \u00e9 o que aconteceu com o engenheiro do Google. Mas no final ela se comporta a partir do conceito que n\u00f3s humanos passamos para ela”, disse.<\/p>\n O Google colocou Lemoine em licen\u00e7a remunerada porque ele teria violado pol\u00edticas de confidencialidade ao publicar as conversas com o LaMDA. A empresa tamb\u00e9m refor\u00e7ou que ele trabalhava como engenheiro de software, n\u00e3o como especialista em \u00e9tica.<\/p>\n O jornal Washington Post avaliou que essa medida teria sido uma forma de calar o funcion\u00e1rio. Lemoine chegou a amea\u00e7ar contratar um advogado para representar LaMDA e conversar com representantes do comit\u00ea judici\u00e1rio da C\u00e2mara sobre as atividades supostamente anti\u00e9ticas do Google.<\/p>\n Para Biachi, a pol\u00eamica foi muito maior do que de fato merecia. “Se tiv\u00e9ssemos essa discuss\u00e3o daqui a 10 anos, com certeza n\u00e3o teria o mesmo impacto que tem agora. Mas IA \u00e9 o buzzword no mundo todo”, avalia.<\/p>\n<\/p><\/div>\n![\"BLAKE](\"https:\/\/conteudo.imguol.com.br\/c\/noticias\/47\/2022\/06\/13\/blake-lemoine-1655143350441_v2_450x450.png\")
<\/div>\n<\/div>Ainda n\u00e3o estamos l\u00e1<\/h2>\n
A vida imita a arte<\/h2>\n
Um cachorro tem consci\u00eancia?<\/h2>\n
Cheiro do caf\u00e9 e as cores do crep\u00fasculo<\/h2>\n