Diante dos recentes massacres escolares em Uvalde e Nova Orleans, nos EUA, a empresa Axon ofereceu uma solução polêmica: um novo modelo de drone com um taser acoplado. A arma de choques, comumente utilizada pela polícia dos EUA e fabricada pela própria Axon, seria capaz de incapacitar atiradores em menos de 60 segundos, segundo a companhia.
A ideia não durou muito tempo: cerca de dois dias depois do anúncio, diversos membros do conselho de ética de Inteligência Artificial da empresa renunciaram. No domingo (5), a Axon confirmou que não mais levará o projeto adiante.
Os integrantes do conselho afirmaram que a “solução” serviria apenas para tornar o ambiente escolar ainda mais perigoso para crianças e adolescentes.
O CEO e fundador da Axon, Rick Smith, pediu desculpas em seu blog, alegando que sua “paixão por encontrar novas soluções para impedir os tiroteios em massa” levou a empresa a agir rápido demais.
Conselho surpreendido
Antes das demissões em massa, o conselho de IA da Axon já tinha expressado inúmeras preocupações éticas em relação ao projeto de drones com tasers. A decisão da empresa em avançar com o anúncio surpreendeu a todos, principalmente após perceberem diferenças entre o que o conselho havia deliberado e o que a empresa anunciou.
“Houve um problema de processo”, afirmou à imprensa o advogado representante do grupo, Max Isaacs. “Os membros sentiram que a Axon estava agindo de forma imprudente ao não consultá-los e ao prosseguir com o anúncio antes de abordar qualquer uma das preocupações do conselho”. A lista de questionamentos incluía, por exemplo um possível mal uso do drone pela polícia.
Reação aos drones armados
O projeto da Axon não foi criticado apenas pelos representantes da própria empresa.
Albert Fox Cahn, diretor-executivo do Projeto de Supervisão de Tecnologia de Vigilância (S.T.O.P. sigla em inglês), afirmou que “apenas alguém que perdeu completamente o contato com a realidade pensaria que o povo americano iria querer esses exterminadores falsos nas escolas”.
“Nós tentamos desde o início fazer com que a Axon entendesse que seu cliente deve ser a comunidade, não a polícia”, disse Barry Friedman, membro do conselho e professor da Universidade de Nova York. “Tem sido uma luta dolorosa mudar as coisas por lá.”
Para tentar contornar o estrago feito, Smith organizou um tópico de discussão na rede social Reddit para explicar o conceito do drone com o público. Em uma das respostas, afirmou que o equipamento ainda não chegou ao estágio de produto, acrescentando que a empresa está trabalhando para determinar se a tecnologia é viável.
Embora a Axon se refira aos tasers como armas não letais em seu material de divulgação, pesquisas mostram que eles levaram à morte de pelo menos 500 pessoas desde 2010.
Negociando a tragédia
No comunicado, nove membros do conselho de ética da IA disseram que a empresa parecia estar “negociando a tragédia”.
A atitude de Smith foi vista como uma janela para anunciar o produto, uma vez que o público estaria mais receptivo após os massacres nas escolas. “Na verdade, acredito que as próprias declarações de Rick aludiram ao fato que Uvalde e Buffalo o obrigaram a fazer o anúncio”, disse Isaacs.
A Axon se recusou a comentar sobre as demissões em massa e reforçou as declarações recentes de Smith. O CEO disse que a postura dos membros do conselho em renunciar antes que empresa tivesse a chance de resolver suas preocupações era “infeliz”.
“Respeitamos a escolha deles e continuaremos a buscar diversas perspectivas para desfiar nosso pensamento e ajudar a orientar outras opções de tecnologia que devemos considerar”, finalizou.
* Com material de Gizmodo e NPR.org
