\n<\/p>\n
Um m\u00e9dico, ainda que experiente, n\u00e3o pode dizer se um paciente \u00e9 negro, asi\u00e1tico ou branco apenas olhando suas imagens de raios-X. Mas um computador pode<\/a>? De acordo com um novo estudo de uma equipe internacional de cientistas, incluindo pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) e da Faculdade de Medicina de Harvard, a resposta \u00e9 sim.<\/p>\n O estudo, publicado no The Lancet Digital Health<\/a>, descobriu que um programa de IA (Intelig\u00eancia Artificial) treinado para ler raios-X e tomografias computadorizadas poderia identificar a ra\u00e7a de uma pessoa com 90% de precis\u00e3o, mesmo sem dados adicionais sobre o paciente. S\u00f3 tem um problema: os cientistas que conduziram o estudo dizem que n\u00e3o t\u00eam ideia de como o computador descobre isso.<\/p>\n A pesquisa treinou uma intelig\u00eancia artificial com centenas de milhares de imagens m\u00e9dicas existentes rotuladas com detalhes da ra\u00e7a do paciente. Depois, testou a IA com radiografias que o programa n\u00e3o havia visto.<\/p>\n “Nosso objetivo era realizar uma avalia\u00e7\u00e3o abrangente da capacidade da IA de reconhecer a identidade racial de um paciente a partir desse tipo de imagem”, escrevem os pesquisadores em seu artigo publicado.<\/p>\n As imagens usadas nos testes vieram de diferentes partes do corpo, incluindo o peitoral, a m\u00e3o e a coluna, e n\u00e3o continham marcadores de identidade racial, como cor da pele ou textura do cabelo.<\/p>\n De acordo com declara\u00e7\u00e3o dada ao jornal americano Boston Globe, o esfor\u00e7o de pesquisa nasceu quando os cientistas notaram que um programa de IA usado para examinar radiografias de t\u00f3rax apresentava uma tend\u00eancia de perder sinais de doen\u00e7a em pacientes negros.<\/p>\n “N\u00f3s nos perguntamos como isso pode acontecer se os computadores n\u00e3o podem dizer qual a ra\u00e7a de uma pessoa?”, afirmou Leo Anthony Celi, co-autor do estudo e professor associado da Faculdade de Medicina de Harvard.<\/p>\n No momento, os cientistas n\u00e3o sabem ao certo por que o sistema de IA consegue identificar ra\u00e7as com tanta precis\u00e3o a partir de imagens que n\u00e3o cont\u00eam essas informa\u00e7\u00f5es.<\/p>\n Mesmo em imagens com informa\u00e7\u00f5es mais limitadas, sem pistas sobre a densidade \u00f3ssea, por exemplo, ou focando em uma pequena parte do corpo, o computador ainda teve um desempenho surpreendentemente bom.<\/p>\n Entre as hip\u00f3teses, os pesquisadores sugerem que \u00e9 poss\u00edvel que o sistema esteja encontrando sinais de melanina, o pigmento que d\u00e1 cor \u00e0 pele.<\/p>\n As descobertas levantam algumas quest\u00f5es preocupantes sobre o papel de IA no diagn\u00f3stico, avalia\u00e7\u00e3o e tratamento m\u00e9dicos.<\/p>\n Cientistas temem que o preconceito racial dos seres humanos seja aplicado involuntariamente por softwares de computador ao estudar imagens como essas.<\/p>\n Por sua pr\u00f3pria natureza, a IA imita o pensamento humano para identificar rapidamente padr\u00f5es nos dados. No entanto, isso tamb\u00e9m significa que ela pode sucumbir involuntariamente aos mesmos tipos de preconceitos, sejam eles de ra\u00e7a, g\u00eanero, entre outros.<\/p>\n Para os pesquisadores, isso levanta um sinal de alerta. A preocupa\u00e7\u00e3o \u00e9 que, com o aumento do uso de IAs para auxiliar na medicina<\/a> por conta do enorme potencial de an\u00e1lise de dados dos programas, os resultados levem a diagn\u00f3sticos distorcidos, provocados por equ\u00edvocos ligados a preconceitos raciais ou de g\u00eanero.<\/p>\n “Precisamos fazer uma pausa”, disse Leo Anthony Celi, ao Boston Globe. “N\u00e3o podemos nos apressar em levar os algoritmos para hospitais e cl\u00ednicas at\u00e9 termos certeza de que eles n\u00e3o est\u00e3o tomando decis\u00f5es racistas ou sexistas.”<\/p>\n<\/p><\/div>\nDescoberta da leitura por IA nasceu por acaso<\/h2>\n
Intelig\u00eancia artificial pode ser racista?<\/h2>\n