\n<\/p>\n
LaMBDA \u00e9 um c\u00e9rebro artificial, hospedado na nuvem, com trilh\u00f5es de textos armazenados e que treina sozinho.<\/p>\n
Uma m\u00e1quina pensante e consciente. Foi assim que o engenheiro do Google<\/a> Blake Lemoine definiu o LaMDA \u2014 o sistema de intelig\u00eancia artificial do Google.<\/p>\n Lemoine foi afastado de suas fun\u00e7\u00f5es pela empresa.<\/p>\n “Nossa equipe \u2014que inclui especialistas em \u00e9tica e tecnologia \u2014 revisou as preocupa\u00e7\u00f5es de Blake de acordo com nossos Princ\u00edpios de IA e o informou de que as evid\u00eancias n\u00e3o respaldam suas alega\u00e7\u00f5es”, afirmou Brian Gabriel, porta-voz do Google, em comunicado.<\/p>\n Mas como funciona essa m\u00e1quina?<\/p>\n Se nos lembrarmos dos antigos filmes<\/a> de fic\u00e7\u00e3o cient\u00edfica, poderemos imaginar LaMDA como um rob\u00f4 que assume a forma humana, abre os olhos, ganha consci\u00eancia e fala. Ou como HAL-9000, o supercomputador do filme<\/a> 2001: Uma Odisseia no <\/em>Espa\u00e7o<\/em> ? que, em uma par\u00f3dia de Os Simpsons<\/em>, ganha a voz de Pierce Brosnan no original em ingl\u00eas, apaixona-se por Marge e quer matar Homer.<\/p>\n Mas a realidade \u00e9 um pouco mais complexa. O LaMDA \u00e9 um c\u00e9rebro artificial e est\u00e1 abrigado na nuvem. Sua alimenta\u00e7\u00e3o \u00e9 composta por milh\u00f5es de textos e ele pr\u00f3prio faz seu treinamento. Mas, por outro lado, age como um papagaio.<\/p>\n Muito complicado? Vamos por partes, para entender melhor.<\/p>\n O LaMDA (sigla em ingl\u00eas para Modelo de Linguagem para Aplicativos de Di\u00e1logo) foi projetado pelo Google em 2017. Sua base \u00e9 um transformer, ou seja, um emaranhado de redes neuronais artificiais profundas.<\/p>\n “Essa rede neuronal treina a si pr\u00f3pria com grandes quantidades de texto. Mas o aprendizado tem um objetivo, que \u00e9 apresentado na forma de um jogo. Ela tem uma frase completa, mas falta uma palavra, e o sistema precisa adivinh\u00e1-la”, explica Julio Gonzalo Arroyo, professor da Uned (Universidade Nacional de Educa\u00e7\u00e3o \u00e0 Dist\u00e2ncia), na Espanha, e principal pesquisador do departamento de processamento de linguagem natural e recupera\u00e7\u00e3o de informa\u00e7\u00f5es.<\/p>\n O sistema joga consigo mesmo. Ele coloca palavras por tentativa e erro e, quando erra, age como se fosse um caderno de atividades infantis ? olha as \u00faltimas p\u00e1ginas, v\u00ea a resposta correta e assim vai corrigindo e refinando os par\u00e2metros.<\/p>\n E ele tamb\u00e9m “identifica o significado de cada palavra e observa as outras palavras em torno dela”, segundo Gonzalo Arroyo. Assim, ele se torna especialista em prever padr\u00f5es e palavras. \u00c9 um processo similar \u00e0 previs\u00e3o de texto dos telefones celulares, mas elevado \u00e0 en\u00e9sima pot\u00eancia, com uma mem\u00f3ria muito maior.<\/p>\n Mas o LaMDA tamb\u00e9m cria respostas fluidas e espont\u00e2neas ? e, segundo o Google, com capacidade de recriar o dinamismo e reconhecer as nuances da conversa humana. Em resumo: que n\u00e3o pare\u00e7am ter sido criadas por um rob\u00f4.<\/p>\n Essa fluidez \u00e9 um dos objetivos do Google, segundo indica seu blog de tecnologia. E eles afirmam que conseguem atingir esse objetivo, assegurando que as respostas sejam de qualidade, espec\u00edficas e que demonstrem interesse.<\/p>\n Para que tenham qualidade, as respostas precisam fazer sentido. Se eu disser ao LaMDA, por exemplo, “comecei a tocar guitarra”, ele deve responder algo relacionado \u00e0 minha informa\u00e7\u00e3o, n\u00e3o qualquer coisa sem sentido.<\/p>\n Para que o segundo objetivo seja cumprido (a resposta espec\u00edfica), o LaMDA n\u00e3o deveria responder com “muito bem”, mas sim algo mais espec\u00edfico, como: “qual marca de guitarra voc\u00ea prefere, Gibson ou Fender?”<\/p>\n E, para que o sistema forne\u00e7a respostas que demonstrem interesse e perspic\u00e1cia, ele deve atingir um n\u00edvel mais elevado. Por exemplo: “a Fender Stratocaster \u00e9 uma boa guitarra, mas a Red Special de Brian May \u00e9 \u00fanica”.<\/p>\n O segredo para responder com esse n\u00edvel de detalhamento \u00e9 o autotreinamento. “Depois de ler bilh\u00f5es de palavras, [o sistema] tem uma capacidade extraordin\u00e1ria de intuir quais s\u00e3o as palavras mais adequadas em cada contexto.”<\/p>\n Para os especialistas em intelig\u00eancia artificial, transformers como o LaMDA representam um desafio porque “permitem processamento [de informa\u00e7\u00f5es ou textos] muito eficiente e produziram uma aut\u00eantica revolu\u00e7\u00e3o no campo do processamento da linguagem natural”.<\/p>\n Outro objetivo do treinamento do LaMDA \u00e9 n\u00e3o criar “conte\u00fado violento ou desumano, n\u00e3o promover cal\u00fanias nem discursos de \u00f3dio contra grupos de pessoas e n\u00e3o conter blasf\u00eamias”, segundo o blog de intelig\u00eancia artificial (IA) do Google.<\/p>\n Tamb\u00e9m se deseja que as respostas sejam baseadas em fatos e que haja fontes externas conhecidas.<\/p>\n “Com o LaMDA, estamos adotando um enfoque cuidadoso e ponderado para levar mais em conta preocupa\u00e7\u00f5es v\u00e1lidas sobre imparcialidade e veracidade”, afirma Brian Gabriel, porta-voz do Google.<\/p>\n Ele defende que o sistema j\u00e1 passou por 11 revis\u00f5es diferentes dos Princ\u00edpios da IA, “al\u00e9m de uma pesquisa rigorosa e testes baseados em medidas fundamentais de qualidade, seguran\u00e7a e da capacidade do sistema de produzir declara\u00e7\u00f5es baseadas em fatos”.<\/p>\n Mas como fazer com que um sistema como o LaMDA n\u00e3o seja tendencioso, nem apresente mensagens de \u00f3dio? “O segredo \u00e9 selecionar quais dados [quais fontes de texto] devem ser alimentados no sistema”, afirma Gonzalo Arroyo.<\/p>\n Mas isso n\u00e3o \u00e9 f\u00e1cil. “A nossa forma de comunica\u00e7\u00e3o reflete nossas tend\u00eancias e as m\u00e1quinas aprendem isso. \u00c9 dif\u00edcil elimin\u00e1-las dos dados de treinamento sem perder a representatividade”, explica ele.<\/p>\n Ou seja, \u00e9 poss\u00edvel que surjam tend\u00eancias.<\/p>\n “Se voc\u00ea alimenta not\u00edcias sobre a rainha Let\u00edcia [da Espanha], todas comentando quais roupas ela usa, \u00e9 poss\u00edvel que, quando algu\u00e9m pergunte sobre ela ao sistema, ele repita esse padr\u00e3o machista e fale das roupas e n\u00e3o de outras coisas”, destaca o professor.<\/p>\n Em 1966, foi projetado um sistema chamado ELIZA que aplicava padr\u00f5es muito simples para simular o di\u00e1logo de uma psicoterapeuta.<\/p>\n “O sistema incentivava o paciente a contar mais, seja qual fosse o tema da conversa, e acionava padr\u00f5es como ‘se mencionar a palavra fam\u00edlia, pergunte como \u00e9 a rela\u00e7\u00e3o com sua m\u00e3e'”, conta Gonzalo.<\/p>\n Algumas pessoas chegaram a pensar que ELIZA realmente era uma terapeuta ? at\u00e9 afirmavam que os havia ajudado. “N\u00f3s, seres humanos, somos enganados com relativa facilidade”, afirma Gonzalo Arroyo.<\/p>\n Para ele, a afirma\u00e7\u00e3o de Lemoine de que o LaMDA ganhou consci\u00eancia de si mesmo “\u00e9 um exagero”. Segundo o professor, declara\u00e7\u00f5es como a de Lemoine n\u00e3o ajudam a manter um debate saud\u00e1vel sobre a intelig\u00eancia artificial.<\/p>\n “Ouvir esse tipo de bobagem n\u00e3o \u00e9 ben\u00e9fico. Corremos o risco de que vire mania e as pessoas pensem que estamos em modo Matrix, com as m\u00e1quinas prontas para acabar conosco. Isso \u00e9 algo remoto, \u00e9 ut\u00f3pico. N\u00e3o acredito que ajude a ter uma conversa ponderada sobre os benef\u00edcios da intelig\u00eancia artificial”, segundo Gonzalo Arroyo.<\/p>\n Por mais que a conversa seja fluida, de qualidade e espec\u00edfica, “n\u00e3o passa de uma gigantesca f\u00f3rmula que ajusta os par\u00e2metros para prever melhor a palavra seguinte. Ele n\u00e3o tem a menor ideia do que est\u00e1 falando.”<\/p>\n A resposta do Google \u00e9 similar. “Esses sistemas imitam os tipos de interc\u00e2mbio encontrados em milh\u00f5es de frases e podem falar sobre qualquer tema fant\u00e1stico. Se perguntarmos como \u00e9 ser um dinossauro congelado, eles podem gerar textos sobre o derretimento, o rugido etc.”, explica Gabriel, do Google.<\/p>\n As pesquisadoras norte-americanas Emily Bender e Timnit Gebru compararam esses sistemas de cria\u00e7\u00e3o de linguagem com “papagaios aleat\u00f3rios”, que repetem palavras ao acaso.<\/p>\n Por isso, como disseram os pesquisadores espanh\u00f3is Ariel Guersenvaig e Ram\u00f3n Sang\u00fcesa, transformers como o LaMDA entendem tanto o que escrevem quanto um papagaio cantando.<\/p>\n –<\/em> <\/em><\/strong>Este texto foi originalmente publicado em <\/em>https:\/\/www.bbc.com\/portuguese\/geral-61845144<\/a><\/p>\n<\/p><\/div>\nSuperc\u00e9rebro<\/h2>\n
Respostas de qualidade, espec\u00edficas e com interesse<\/h2>\n
Seguran\u00e7a e tend\u00eancia<\/h2>\n
Papagaio cantor<\/h2>\n