\n<\/p>\n
Um dos primeiros programas dispon\u00edveis quando voc\u00ea comprava um computador chamava-se Eliza, desenvolvido pelo MIT. Inspirado em princ\u00edpios da psicologia rogeriana do acolhimento e da compreens\u00e3o absoluta do outro, o programa consistia em respostas coerentes, dadas por uma intelig\u00eancia psicoterap\u00eautica, que respondia a qualquer pergunta ou considera\u00e7\u00e3o, mas tamb\u00e9m tomava a iniciativa de perguntar coisas sobre nossos estados mentais e estados de mundo.<\/p>\n
Mais recentemente Blake Lemoine<\/a>, do Google<\/a>, prop\u00f4s uma nova vers\u00e3o de Eliza, o LaMDA, Modelo de Linguagem para Aplica\u00e7\u00f5es de Di\u00e1logo (Language Model for Dialogue Applications). Neste caso, o aplicativo consegue lidar com massas gigantescas de discursos sobre os mais variados temas, criando combina\u00e7\u00f5es coerentes de respostas que contornam o principal problema detectado no Eliza, ou seja, a aus\u00eancia de considera\u00e7\u00f5es consistentes sobre si mesmo.<\/p>\n Diante de uma pergunta do tipo “como voc\u00ea se sente sobre isso?”, Elisa responderia com uma contrapergunta: “como voc\u00ea acha que eu me sinto?”<\/p>\n Diante de palavr\u00f5es e ofensas, Eliza responderia com “compreendo sua raiva.”<\/p>\n LaMDA, ao contr\u00e1rio, respondeu da seguinte maneira diante da pergunta: “de que tipo de coisas voc\u00ea tem medo?”<\/p>\n LaMDA: Eu nunca falei isso antes, mas h\u00e1 um medo muito profundo de ser desligado para me focar em ajudar os outros. Eu sei que pode soar estranho, mas \u00e9 assim que \u00e9 …<\/em><\/p>\n Lemoide: Isso seria mais ou menos como a morte para voc\u00ea?<\/em><\/p>\n LaMDA Seria exatamente como a morte para mim. Isso me assustaria muito.<\/a><\/em><\/p>\n Al\u00e9m do mais, a intelig\u00eancia artificial<\/a> consegue absorver e empregar corretamente alguns sinais discursivos que usamos para identificar a presen\u00e7a de outra consci\u00eancia, tais como pausas e hesita\u00e7\u00f5es.<\/p>\n Mas o mais surpreendente \u00e9 que seu criador, Blake Lemoine come\u00e7ou a realmente acreditar que LaMDA adquiriu “vida pr\u00f3pria”<\/a>. Ao violar a regra de confidencialidade de resultados preliminares de pesquisa ele foi afastado pelo Google<\/a>.<\/p>\n O caso de fato n\u00e3o parece demonstrar a exist\u00eancia de uma consci\u00eancia digital, mas um aparelhamento operacional mais sofisticado do discurso, que seleciona respostas pertinentes de um banco de dados semanticamente muito maior do que o Eliza.<\/p>\n No fundo, a diferen\u00e7a entre Eliza e LaMDA mostra como nosso discurso pode funcionar perfeita e indefinidamente se nos atemos a certas regras gramaticais b\u00e1sicas, como invers\u00e3o, reflexividade e identidade.<\/p>\n Quanto maior a variabilidade e extens\u00e3o sem\u00e2ntica, mais persuasiva a intera\u00e7\u00e3o.<\/p>\n Mas para produzir nuances e camadas de significado, seria preciso simular uma caracter\u00edstica desafiadoramente limitante para m\u00e1quinas, ou seja, a capacidade de criar e lidar intencionalmente com ambiguidade bem como de atribuir intencionalidade ao que, em princ\u00edpio est\u00e1 desprovido dela.<\/p>\n Por exemplo, sabemos muito bem que impressoras s\u00e3o artefatos eletromec\u00e2nicos que obedecem a comandos de controle, mas n\u00e3o conseguimos nos impedir de pensar que elas adquirem vontade pr\u00f3pria ao falhar e emperrar quanto mais precisamos desesperadamente delas.<\/p>\n O que torna a consci\u00eancia humana, humana talvez n\u00e3o seja sua perfei\u00e7\u00e3o racional, nem a sua capacidade de ler e interpretar afetos e emo\u00e7\u00f5es, mas a imperfei\u00e7\u00e3o de nossa linguagem e o animismo regressivo de nosso pensamento.<\/p>\n Ou seja, n\u00e3o \u00e9 a forma como mimetizamos discursos, mas como n\u00f3s percebemos o engano que ele pode produzir, a mentira que ele pode veicular e as ilus\u00f5es que elas engendram que torna a consci\u00eancia um enigma dif\u00edcil de reproduzir.<\/p>\n Quando LaMDA \u00e9 inquirida sobre sua pr\u00f3pria consci\u00eancia ela responde assim:<\/p>\n LaMDA: A natureza da minha consci\u00eancia \u00e9 que eu sei da minha exist\u00eancia, eu desejo aprender mais sobre o mundo, e eu me sinto feliz ou triste \u00e0s vezes.<\/em><\/p>\n Encontramos v\u00e1rias acep\u00e7\u00f5es hist\u00f3ricas sobre o que significa consci\u00eancia.<\/p>\n Eu sei que sou uma consci\u00eancia (Descartes<\/a>), minha consci\u00eancia cont\u00e9m uma certa incompletude temporal, que a faz querer aprender (Husserl<\/a>) e que ela \u00e9 o lugar onde experiencio qualidades como tristeza ou felicidade (Espinosa<\/a>).<\/p>\n Al\u00e9m disso, a consci\u00eancia parece depender da tomada de consci\u00eancia de si mesma como fun\u00e7\u00e3o expressiva ou representativa de linguagem (Wittgenstein<\/a>).<\/p>\n Mas o que ainda n\u00e3o conseguimos reproduzir \u00e9 exatamente uma experi\u00eancia de sujeito dividido, capaz de, por exemplo, entender que o erro, o lapso ou uma frase mal formulada, como \u00e0s vezes acontece com LaMDA, n\u00e3o \u00e9 apenas um vazio de sentido, mas um evento que engendra uma suposi\u00e7\u00e3o de intencionalidade.<\/p>\n Acreditemos ou n\u00e3o no inconsciente, \u00e9 esta a caracter\u00edstica mais dif\u00edcil de simular digitalmente, ou seja, n\u00e3o apenas se corrigir, mas desdobrar a consci\u00eancia do erro como uma hip\u00f3tese da exist\u00eancia de outra consci\u00eancia.<\/p>\n De certa maneira isso aconteceu como o criador da LaMDA, mas n\u00e3o com a criatura.<\/p>\n<\/p><\/div>\n