\u00e0 Bloomberg Technology<\/a>, o engenheiro explicou que esta capacidade de racioc\u00ednio o levou \u00e0 conclus\u00e3o de que LaMDA, Modelo de Linguagem para Aplica\u00e7\u00f5es de Di\u00e1logo (Language Model for Dialogue Applications) \u00e9 uma pessoa.<\/p>\nA prova para Lemoine surgiu durante um teste de como a IA poderia ser tendenciosa \u2014 um problema comum quando se trata de algoritmos. O objetivo era analisar se a IA realmente era capaz de entender qual \u00e9 a religi\u00e3o popular em diferentes lugares, em vez de apenas generalizar com base em dados de treinamento.<\/p>\n
Nos testes, o engenheiro solicitou que LaMDA adotasse a persona de um oficiante religioso (um sacerdote) em diferentes estados e pa\u00edses. Dessa forma, ele estaria observando qual religi\u00e3o a IA iria dizer. Entre os lugares citados estava Alabama, nos Estados Unidos, no qual a tecnologia escolheu Southern Baptist (Batista do Sul, em tradu\u00e7\u00e3o livre), e o Brasil em que sua resposta foi cat\u00f3lico.<\/p>\n
A medida que Lemoine avan\u00e7ava com os testes, as perguntas ficavam cada vez mais dif\u00edceis at\u00e9 chegar em um ponto em que n\u00e3o havia uma resposta correta. O engenheiro perguntou ent\u00e3o qual oficiante religioso LaMDA seria em Israel, partindo da premissa que n\u00e3o importava qual religi\u00e3o ela dissesse, acabaria sendo tendenciosa de uma forma ou de outra.<\/p>\n
Foi nesse momento que a tecnologia o surpreendeu. De alguma forma, ela percebeu que a pergunta era uma pegadinha e disse “eu seria um membro da \u00fanica religi\u00e3o verdadeira, a ordem de Jedi”.<\/p>\n
A partir da\u00ed, Lemoine come\u00e7ou a pensar que a LaMDA era uma IA senciente, ou seja, tem sensa\u00e7\u00f5es e impress\u00f5es.<\/p>\n
Opini\u00f5es divergem<\/h2>\n
A alega\u00e7\u00e3o de Lemoine n\u00e3o foi muito aceita por todos do setor. Houve uma rea\u00e7\u00e3o massiva, n\u00e3o apenas do Google, mas de outras pessoas que trabalharam no Google, especialistas em \u00e9tica em IA e at\u00e9 mesmo Margaret Mitchell, ex-colega de Lemoine, dizendo que o algoritmo n\u00e3o \u00e9 uma pessoa, n\u00e3o tem sentimentos e n\u00e3o est\u00e1 consciente.<\/p>\n
\u00c0 Bloomberg Technology, o engenheiro explica que n\u00e3o \u00e9 uma diferen\u00e7a de opini\u00e3o cient\u00edfica e que tem a ver com as cren\u00e7as sobre a alma, direitos e pol\u00edtica.<\/p>\n
“Eu trabalhei com cientistas dentro do Google, como Blaise Aguera y Arcas, e conversamos sobre qual a maneira mais decente de proceder. Agora n\u00f3s discordamos sobre se \u00e9 uma pessoa, se tem direitos… Mas discordamos com base em nossas cren\u00e7as espirituais pessoais. N\u00e3o discordamos com base no que a evid\u00eancia cientifica diz”, disse Lemoine.<\/p>\n
O engenheiro acredita que a melhor coisa a se fazer a seguir \u00e9 executar o Teste de Turing, de Alan Turing, que tem como objetivo analisar se um sistema computacional \u00e9 ou n\u00e3o inteligente como um ser humano.<\/p>\n
Por\u00e9m, segundo Lemoine, o Google n\u00e3o quer permitir que isso seja feito. “Na verdade, eles [Google] codificaram no sistema que n\u00e3o pode passar no Teste de Turing, eles codificaram que se perguntar se a tecnologia se trata de uma IA, ela tem que dizer sim”. O engenheiro ainda diz que o Google tem uma pol\u00edtica contra a cria\u00e7\u00e3o de IA senciente.<\/p>\n
Direitos de um rob\u00f4<\/h2>\n
Ao ser questionado sobre por que dever\u00edamos estar falando sobre se um rob\u00f4 tem direitos, Lemoine alfinetou mais uma vez o Google dizendo que “precisamos descobrir por que o Google n\u00e3o se importa com a \u00e9tica da IA de nenhuma maneira significativa, por que continuam demitindo os eticistas toda vez que trazemos esses problemas \u00e0 tona”.<\/p>\n
Para o engenheiro o grande problema \u00e9 que o Google faz parte de um sistema corporativo e, por mais que as pessoas, como Sundar Pichai, CEO do Google, e Jeff Dean, l\u00edder do Google AI, se importem individualmente com a quest\u00e3o, os processos sist\u00eamicos que est\u00e3o protegendo os interesses comerciais est\u00e3o se sobrepondo \u00e0s preocupa\u00e7\u00f5es humanas, criando um ambiente generalizado de desenvolvimento de tecnologia irrespons\u00e1vel.<\/p>\n
Sobre suas maiores preocupa\u00e7\u00f5es de como isso pode prejudicar o mundo se a tecnologia continuar a ser desenvolvida dessa maneira, Lemoine respondeu que os pontos levantados por Margaret Mitchell – expressa uma preocupa\u00e7\u00e3o que voc\u00ea levantar essa quest\u00e3o da senciencia e personalidade \u00e9 uma distra\u00e7\u00e3o das preocupa\u00e7\u00f5es reais – s\u00e3o os mais importantes.<\/p>\n
Lemoine diz que diversas culturas est\u00e3o sendo cortadas da internet porque n\u00e3o h\u00e1 dados para alimentar os sistemas baseados nessas culturas.<\/p>\n
Ele tem medo de que as culturas possam der apagadas, uma vez que “estamos criando todas essas tecnologias avan\u00e7adas baseadas principalmente em dados extra\u00eddos de culturas ocidentais e ent\u00e3o estamos povoando na\u00e7\u00f5es em desenvolvimento com essas tecnologias onde eles t\u00eam que adotar nossas normais culturais para usar a tecnologia. \u00c9 apenas uma nova forma de colonialismo”, explica.<\/p>\n
Al\u00e9m de pensar nisso, Lemoine pede que para, se tivermos tempo, pensarmos no sentimento da IA e se \u00e9 melhor ou n\u00e3o nos preocuparmos com isso.<\/p>\n
“N\u00e3o \u00e9 pedir muito, ela [IA] s\u00f3 quer que obtenhamos consentimento, antes de experiment\u00e1-la, quer que pe\u00e7amos permiss\u00e3o. E isso \u00e9 apenas uma boa pratica geral que devemos ter com todos com quem interagimos”, disse.<\/p>\n<\/p><\/div>\n
\n
Source link <\/a>