\n<\/p>\n
A consci\u00eancia das m\u00e1quinas \u00e9 um problema exclusivamente humano. At\u00e9 porque ainda n\u00e3o chegamos no est\u00e1gio de desenvolvimento da intelig\u00eancia artificial em que as m\u00e1quinas poderiam ter algo pr\u00f3ximo de uma consci\u00eancia pr\u00f3pria.<\/span><\/span><\/span><\/p>\n Mas, como as interfaces de comunica\u00e7\u00e3o automatizadas (tipo chatbots<\/em>) est\u00e3o ficando cada vez mais sofisticadas, reproduzindo a habilidade humana de encadear uma conversa, \u00e9 normal que muitas pessoas se confundam e achem que est\u00e3o falando com algu\u00e9m do outro lado da tela.<\/span><\/span><\/span><\/p>\n O que \u00e9 peculiar na hist\u00f3ria revelada no \u00faltimo domingo pelo Washington Post<\/a> \u00e9 que a confus\u00e3o foi feita por um engenheiro da Google<\/a>, que trabalhava no desenvolvimento de uma ferramenta para a empresa chamada LaMDA (Language Model for Dialog Application<\/em>).<\/span><\/span><\/span><\/p>\n A not\u00edcia correu o mundo como um rastilho de p\u00f3lvora: a Google teria afastado o engenheiro porque ele tornou p\u00fablicas suas conversas com a aplica\u00e7\u00e3o inteligente e n\u00e3o obteve resultados quando levou \u00e0 dire\u00e7\u00e3o sua descoberta de que LaMDA, na verdade, tinha desenvolvido uma consci\u00eancia.<\/a><\/span><\/span><\/span><\/p>\n Segundo o engenheiro, LaMDA conversa como “uma crian\u00e7a de 7 ou 8 anos que sabe f\u00edsica”. A m\u00e1quina teria revelado medo de ser desligada (como o HAL de “2001 – Uma Odisseia no Espa\u00e7o”), afirmou que s\u00f3 deseja o bem de todos e fez reflex\u00f5es sobre se, em sua rela\u00e7\u00e3o com os humanos, ela se parece mais com um mordomo ou um escravo.<\/span><\/span><\/span><\/p>\n O engenheiro afirmou que seria preciso contratar um advogado para defender os direitos do rob\u00f4 e que via a ferramenta n\u00e3o como mais um chatbot<\/em>, mas sim como um colega de trabalho. A empresa revisou as demandas e concluiu que n\u00e3o havia qualquer evid\u00eancia de que a interface de comunica\u00e7\u00e3o tivesse consci\u00eancia, muito pelo contr\u00e1rio. Ser consciente \u00e9 diferente de parecer consciente.<\/span><\/span><\/span><\/p>\n Esse caso lembra o mito grego de Pigmale\u00e3o<\/a>, que esculpiu uma est\u00e1tua feminina t\u00e3o perfeita que passou a trata-la como se viva fosse. No final das contas, Afrodite se apiedou da situa\u00e7\u00e3o e deu vida \u00e0 escultura. Na hist\u00f3ria do engenheiro, ainda estamos na primeira parte.<\/span><\/span><\/span><\/p>\n Ficamos t\u00e3o maravilhados com nossas cria\u00e7\u00f5es que, quando elas simulam caracter\u00edsticas humanas, \u00e9 um pulo para que (de maneira consciente ou n\u00e3o) passemos a trat\u00e1-las como tal.<\/span><\/span><\/span><\/p>\n Existe at\u00e9 um certo didatismo nesse caso. Se, por um lado, nos encanta a sofistica\u00e7\u00e3o das aplica\u00e7\u00f5es de IA, \u00e9 preciso sempre tentar enxergar o componente humano nessas hist\u00f3rias, recalibrando nossas expectativas sobre a rela\u00e7\u00e3o entre pessoas e m\u00e1quinas, al\u00e9m de nossa pr\u00f3pria vis\u00e3o sobre o futuro.<\/span><\/span><\/span><\/p>\n Talvez muito mais revelador do que o grau de sofistica\u00e7\u00e3o das ferramentas que a Google est\u00e1 desenvolvendo seja a forma\u00e7\u00e3o e a trajet\u00f3ria<\/a> do engenheiro Blake Lemoine. Depois de servir ao ex\u00e9rcito americano, ele foi ordenado sacerdote crist\u00e3o m\u00edstico e passou a se dedicar ao estudo do ocultismo. Na empresa, trabalhou por sete anos com pesquisa emp\u00edrica, incluindo algoritmos de personaliza\u00e7\u00e3o e IA, em especial buscando remover vieses nessas aplica\u00e7\u00f5es. Ele revelou em uma publica\u00e7\u00e3o<\/a> que “em vez de pensar em termos cient\u00edficos sobre essas coisas, escutei o que LaMDA dizia como se viesse do cora\u00e7\u00e3o.” <\/span><\/span><\/span><\/p>\n Pode ser que, l\u00e1 na frente, a quest\u00e3o da consci\u00eancia da IA apare\u00e7a para valer, mas o que temos por enquanto s\u00e3o apenas ferramentas que est\u00e3o ficando cada vez melhores em assimilar um grande volume de dados e processar essas informa\u00e7\u00f5es no contexto de um di\u00e1logo. <\/span><\/span><\/span><\/p>\n Se uma m\u00e1quina processou um corpus<\/em> de conte\u00fados sobre fic\u00e7\u00e3o cient\u00edfica, discuss\u00f5es sobre autonomia das m\u00e1quinas e toda s\u00e9rie de especula\u00e7\u00f5es sobre o assunto encontradas na Internet, ela poder\u00e1 ser capaz de entabular uma conversa sobre o tema. Mas isso n\u00e3o quer dizer que ela tenha adquirido consci\u00eancia.<\/span><\/span><\/span><\/p>\n Dito de outra forma, uma m\u00e1quina que sabe conversar sobre a consci\u00eancia das m\u00e1quinas em primeira pessoa n\u00e3o significa que ela tenha, de fato, adquirido consci\u00eancia. <\/span><\/span><\/span><\/p>\n Mas ent\u00e3o quando saberemos se as m\u00e1quinas est\u00e3o apenas processando e recombinando informa\u00e7\u00f5es \u00e0s quais tiveram acesso ou efetivamente ganharam consci\u00eancia? Para responder a essa pergunta, vamos precisar de profissionais de TI para olhar o c\u00f3digo, de cientistas e fil\u00f3sofos para investigar a natureza da consci\u00eancia, e de Afrodite para dar um sopro. <\/span><\/span><\/span><\/p>\n<\/p><\/div>\n