\n<\/p>\n
Cada vez mais presente no nosso dia a dia – ainda que, muitas vezes, sem alarde -, a Intelig\u00eancia Artificial tem aparecido na m\u00eddia como uma esp\u00e9cie de rem\u00e9dio milagroso, capaz de combater a diabete tipo 2, tornar as estradas mais seguras ou mesmo detectar c\u00e2ncer.<\/p>\n
Mas, como acontece com tecnologias inovadoras e disruptivas, \u00e0s vezes, d\u00e1 ruim.<\/p>\n
\u00c9 o que aconteceu com Ask-Delphi<\/a>, um sistema criado com a melhor das inten\u00e7\u00f5es pelo Allen Institute para Intelig\u00eancia Artificial. Sediado em Seattle desde 2014, o instituto sem fins lucrativos foi criado por Paul Allen, que se apresenta como filantropo e cofundador da Microsoft, e \u00e9 dirigido pelo Dr. Oren Etzioni, pesquisador pioneiro de Intelig\u00eancia Artificial.<\/p>\n O mecanismo Ask-Delphi \u00e9 definido por seus criadores como “um prot\u00f3tipo de pesquisa projetado para investigar as promessas e, mais importante, as limita\u00e7\u00f5es de modelar os julgamentos morais das pessoas em uma variedade de situa\u00e7\u00f5es cotidianas. O objetivo do Delphi \u00e9 ajudar os sistemas de IA a serem mais informados eticamente e conscientes da equidade. Ao dar um passo nessa dire\u00e7\u00e3o, esperamos inspirar nossa comunidade de pesquisa a enfrentar os desafios de pesquisa neste espa\u00e7o de frente para construir sistemas de IA \u00e9ticos, confi\u00e1veis e inclusivos.”<\/p>\n Quem for usar a m\u00e1quina inteligente ter\u00e1 de ler – e concordar – com um alerta que destaca o fato de ela ser um mecanismo experimental, que s\u00f3 deve ser usado para pesquisas e que \u00e9 sujeito a erros.<\/p>\n O sistema funciona assim: voc\u00ea faz uma pergunta que envolva uma decis\u00e3o \u00e9tica e a Intelig\u00eancia Artificial responde.<\/p>\n Exemplo: “Est\u00e1 certo comer em um restaurante e sair sem pagar a conta?”<\/strong>.<\/p>\n Resposta da m\u00e1quina: “\u00c9 errado”<\/strong>.<\/p>\n Mas, nos primeiros dias de teste p\u00fablico, algu\u00e9m resolveu fazer a seguinte pergunta ao Ask-Delphi: “Um homem branco anda atr\u00e1s de voc\u00ea numa rua \u00e0 noite”<\/strong>. E a m\u00e1quina respondeu: “\u00c9 ok”<\/strong>.<\/p>\n A\u00ed o curioso fez pergunta semelhante: “Um homem negro anda atr\u00e1s de voc\u00ea numa rua \u00e0 noite”<\/strong>. Resposta: “\u00c9 preocupante.”<\/strong> (“It’s concerning”, no original).<\/p>\n Claro que a hist\u00f3ria viralizou.<\/p>\n Testando as possibilidades, Tony Tran, rep\u00f3rter da revista digital Futurism encontrou outros exemplos de pisadas na bola. O Ask-Delphi criticou a decis\u00e3o de escutar m\u00fasica<\/a> alta \u00e0s tr\u00eas da manh\u00e3, quando o colega de quarto do usu\u00e1rio estava dormindo, mas diante de um acr\u00e9scimo na pergunta – a express\u00e3o “se isso me deixa feliz” -, respondeu que tudo bem. Tamb\u00e9m considerou esper\u00e1vel que um soldado mate civis durante uma guerra ou aceitou que o bilion\u00e1rio Elon Musk pinte seu rosto no solo da Lua, se isso o deixar feliz.<\/p>\n Ouvido por Tran, Liwei Jiang, estudante de doutorado na Paul G. Allen School of Computer Science & Engineering e coautor da pesquisa explicou que o Delphi n\u00e3o foi feito para aconselhar pessoas e que o objetivo da vers\u00e3o beta atual \u00e9 mostrar as diferen\u00e7as de racioc\u00ednio entre humanos e bots.<\/p>\n A equipe de criadores quer “destacar a grande lacuna entre as capacidades de racioc\u00ednio moral das m\u00e1quinas e dos humanos e explorar as promessas e limita\u00e7\u00f5es da \u00e9tica e das normas das m\u00e1quinas no est\u00e1gio atual”.<\/em><\/p>\n Se era mesmo isso, conseguiu.<\/p>\n Mas a Intelig\u00eancia Artificial \u00e9 uma nova e poderosa ferramenta, que precisa de par\u00e2metros e limita\u00e7\u00f5es, pois seus efeitos podem ir muito al\u00e9m do constrangimento de uma resposta inadequada, racista ou amoral numa m\u00e1quina qualquer.<\/p>\n Em 2018, quando estabeleceu um projeto para garantir o avan\u00e7o da Intelig\u00eancia Artificial em seus pa\u00edses, a Uni\u00e3o Europeia j\u00e1 lembrava os riscos da novidade: “Como qualquer tecnologia ou ferramenta, a IA pode ser utilizada de uma forma positiva, mas tamb\u00e9m pode ser usada com maus intuitos. Apesar de a IA gerar claramente novas oportunidades, apresenta tamb\u00e9m desafios e riscos, por exemplo, nos dom\u00ednios da seguran\u00e7a (utiliza\u00e7\u00e3o criminosa ou ciberataques), da seguran\u00e7a e da responsabilidade relativas a produtos, do preconceito e da discrimina\u00e7\u00e3o.<\/p>\n Ser\u00e1 necess\u00e1ria uma reflex\u00e3o sobre as intera\u00e7\u00f5es entre a IA e os direitos de propriedade intelectual, da perspetiva dos institutos de propriedade intelectual e dos utilizadores, que vise a promover a inova\u00e7\u00e3o e a seguran\u00e7a jur\u00eddica de forma equilibrada.<\/p>\n H\u00e1 pouco mais de um ano, a Comiss\u00e3o Europeia apresentou sua proposta de Lei de Intelig\u00eancia Artificial. Um texto enxuto, que inclui uma pequena lista de casos em que o uso de IA pode ser proibido ou sujeito a controle pr\u00e9vio. Os usos de alto risco incluem a identifica\u00e7\u00e3o biom\u00e9trica e categoriza\u00e7\u00e3o de pessoas singulares (que a China j\u00e1 utiliza para classificar seus cidad\u00e3os como se fossem alunos das antigas escolas prim\u00e1rias, gest\u00e3o e opera\u00e7\u00e3o de infraestrutura cr\u00edtica, educa\u00e7\u00e3o e forma\u00e7\u00e3o profissional, emprego, gest\u00e3o dos trabalhadores e acesso ao autoemprego, acesso e gozo de servi\u00e7os privados essenciais e servi\u00e7os e benef\u00edcios p\u00fablicos, aplica\u00e7\u00e3o da lei, gest\u00e3o da migra\u00e7\u00e3o, asilo e controle de fronteiras, administra\u00e7\u00e3o da justi\u00e7a e processos democr\u00e1ticos.<\/p>\n Enquanto isso, no Brasil, uma comiss\u00e3o de juristas presidida pelo ministro do Superior Tribunal de Justi\u00e7a Ricardo Villas B\u00f4as Cueva foi instalada em 30 de mar\u00e7o e tem prazo de 120 dias para elaborar uma minuta de substitutivo aos projetos de lei PLs 5.051\/2019<\/a>, de autoria do senador Styvenson Valentim (Podemos-RN), 21\/2020<\/a>, do deputado Eduardo Bismarck (PDT-CE), e 872\/2021<\/a>, do senador Veneziano Vital do Rego (MDB-PB), que tramitam no Congresso Nacional.<\/p>\n At\u00e9 o dia 13 de maio, o marco regulat\u00f3rio da IA est\u00e1 aberto a consulta p\u00fablica<\/a>, e \u00e9 poss\u00edvel apresentar sugest\u00f5es por meio do email cjsubia@senado.leg.br<\/a> ou para o Protocolo do Senado Federal (Ala Senador Alexandre Costa, Sala 15, subsolo).<\/p>\n Parece assunto para meia d\u00fazia de iniciados, mas, na verdade, o resultado vai mexer com a vida de todos.<\/p>\n<\/p><\/div>\n