A Amazon está desenvolvendo uma forma de seus usuários conversarem com parentes já falecidos por meio da Alexa, assistente de voz da empresa. O recurso foi apresentado ontem (22) durante a conferência de tecnologia Re:Mars 2022, realizada pela Amazon, em Las Vegas (EUA), nesta semana.
Com ajuda da IA (inteligência artificial) da Alexa, a tecnologia é capaz de imitar a voz de qualquer pessoa a partir de menos de um minuto de áudio fornecido, segundo Rohit Prasad, vice-presidente sênior e cientista-chefe da Amazon.
A demonstração foi feita através de um pequeno vídeo no qual uma criança pergunta a Alexa: “Alexa, a vovó pode terminar de ler o Mágico de Oz para mim?”
O novo recurso pode “fazer durar as memórias [dos entes queridos]”, especialmente porque “muitos de nós perdemos alguém que amamos” durante a pandemia de covid-19, afirmou o executuvo.
O alto-falante inteligente confirma o pedido em sua voz padrão (robótica) e, em seguida, é substituída por um tom mais humano ao iniciar a narração do livro.
“Em vez da voz de Alexa lendo o livro, é a voz da avó da criança”, explicou Prasad.
O recurso ainda está em fase de desenvolvimento. A empresa não informou se e nem quando ele será lançado ao público.
Black Mirror da vida real?
Apesar de ser útil para pessoas que desejam ouvir a voz de alguém que já faleceu, a função em teste parece assustador algumas pessoas, além de levantar preocupações éticas e de segurança.
“Se um cibercriminoso puder replicar com facilidade e credibilidade a voz de outra pessoa com uma pequena amostra de voz, ele poderá usar essa amostra para se passar por outros indivíduos”, afirmou Rachel Tobac, executiva-chefe da organização SocialProof Security, ao jornal The Washington Post.
Além disso, outra especialista ouvida pela reportagem, Tama Leaver, professora de estudos da Internet na Curtin University, na Austrália, alertou para as questões sobre consentimento.
“Há uma ladeira escorregadia real de usar os dados de pessoas falecidas de uma maneira que é assustadora por um lado, mas profundamente antiética por outro, porque eles nunca consideraram esses vestígios sendo usados dessa maneira”, destacou.
Para Leaver, se recursos como esse forem liberados, será preciso informar, via testamento, que a voz e história nas mídias sociais são de propriedade de seus filhos, e que eles são os responsáveis por permitir ou não que seja usada.
Internautas também ficaram preocupados com a notícia do recurso em teste da Amazon
“Em quanto tempo os criminosos poderão usá-lo para ligar para os membros de sua família implorando por dinheiro? Ou pedir-lhes números de seguro social? Ou informações bancárias?”, tuitou uma internauta.
“É doce, mas ao mesmo tempo incrivelmente assustador? Perdi minha mãe no ano passado em agosto e morreria para ter uma última conversa adequada com ela, mas não faria isso por um maldito dispositivo”, escreveu outro.
It’s sweet but at the same time incredibly creepy?
I lost my mum last year in August and would die to have one last proper conversation with her but I wouldn’t do it for a goddamn circular device
Like I said it’s a sweet thought but it’s incredibly creepy at the same time
— Luke (@LukeyGearSolid) June 23, 2022
*Com informações dos sites Cnbc e Business Insider
