A rapidez dos avanços tecnológicos nos aproxima cada vez mais da existência de “robôs assassinos” em nossa realidade. A Anistia Internacional urge que os Estados apoiem a negociação de uma nova lei internacional que proíba sistemas de armas totalmente autônomas.
.
O Grupo de Especialistas Governamentais da ONU (GGE-UN) sobre sistemas de armas autônomas letais, criado a partir da Convenção de Armas Convencionais (CCW), se encontra em Genebra entre 27 e 31 de agosto de 2018. A reunião é um momento fundamental para que os Estados discutam opções para a abordagem de desafios humanitários, éticos, de segurança e direitos humanos que os sistemas de armas totalmente autônomas representam.
.
“Os robôs assassinos não são mais coisa de ficção científica. De drones artificialmente inteligentes a armas automatizadas que podem escolher seus próprios alvos, os avanços tecnológicos em armamentos estão de longe ultrapassando o direito internacional. Nós estamos caminhando para um futuro em que os seres humanos serão excluídos da tomada de decisão sobre o uso da força,” disse Rasha Abdul Rahim, pesquisadora e consultora de inteligência artificial e direitos humanos na Anistia Internacional.
“Ainda é possível mudar isto. A proibição de sistemas de armas totalmente autônomas poderia evitar cenários distópicos, como uma nova corrida armamentista de alta tecnologia entre superpotências mundiais – o que poderia fazer com que as armas autônomas se proliferassem amplamente. Estamos apelando aos Estados presentes em Genebra esta semana para que ajam com a urgência que este assunto exige e para que apresentem um mandato ambicioso para abordar os diversos riscos que as armas autônomas representam.”
.
Na última reunião da CCW, em abril de 2018, a maioria dos Estados enfatizou a importância de manter o controle humano sobre os sistemas de armas e uso da força e expressou apoio ao desenvolvimento de uma nova lei internacional sobre sistemas de armas autônomas letais. Vinte e seis desses país pediram a proibição total, incluindo a Áustria, o Brasil e o Egito. A China também pediu por um novo protocolo da CCW para proibir o uso de sistemas de armas totalmente autônomas.
.
No entanto, diversos Estados importantes se opuseram à criação de proibições legalmente vinculativas, incluindo governos que já se sabe que estão desenvolvendo sistemas de armas autônomas, como França, Israel, Rússia, Coreia do Sul, Estados Unidos e Reino Unido.
.
A Anistia Internacional está pedindo a criação de normas legalmente vinculativas para garantir que seres humanos continuem no centro das “funções essenciais” dos sistemas de armas, como na identificação, na seleção e no envolvimento de alvos. Apenas isso pode garantir o respeito pela lei internacional e a abordagem de preocupações éticas relacionadas à tomada de decisões de vida ou morte à máquinas.
.
Esses assuntos foram discutidos em sessões anteriores da CCW no contexto do uso desses sistemas em guerras. A Anistia Internacional está apelando aos Estados para que garantam que irão abordar os riscos de usar armas autônomas por forças de segurança.
.
“Até o momento, a probabilidade de que armas autônomas sejam usadas em operações policiais, com todos os riscos que envolvem, tem sido negligenciada. No entanto, drones capazes de atirar dardos de choque elétrico, gás lacrimogênio e gás de pimenta já existem. Israel recentemente empregou drones semiautônomos para disparar gás lacrimogênio em protestantes em Gaza e nós provavelmente veremos mais uso por forças de segurança desse tipo de tecnologia no futuro,” disse Rasha Abdul Rahim.
“O uso de armas totalmente autônomas por forças de segurança sem o controle efetivo e significativo de seres humanos seria incompatível com a lei internacional de direitos humanos e poderia levar a mortes extrajudiciais, danos e outras violações de direitos humanos. Nós estamos apelando aos Estados para que tomem medidas concretas para deter a disseminação dessas armas perigosas, tanto nas ruas quanto nos campos de batalha, antes que seja tarde demais.”
.
Contexto
A Anistia Internacional e seus parceiros na Campanha para parar os robôs assassinos estão pedindo por uma proibição total do desenvolvimento, produção e uso de sistemas de armas totalmente autônomas tendo em vista dos riscos humanitários e de direitos humanos que eles representam. O uso de armas totalmente autônomas sem controle humano significativo e efetivo poderia criar uma lacuna de responsabilidade se, depois de usadas, elas fossem capazes de fazer suas próprias determinações sobre o uso da força.
.
Embora seja incerto o quão sofisticadas as tecnologias futuras serão, é muito pouco provável que as armas totalmente autônomas sejam capazes de replicar a ampla gama de características inerentes aos seres humanos necessárias para cumprir com a lei internacional. Isso inclui a capacidade de analisar as decisões por trás das ações das pessoas, avaliar e responder a situações frequentemente dinâmicas e imprevisíveis ou tomar decisões complexas sobre a proporcionalidade ou necessidade de um ataque.
.
Os Estados se reunirão novamente me novembro para a reunião da CCW e terão a oportunidade de concordar em iniciar as negociações sobre um instrumento legalmente vinculativo.
.
Saiba mais
ONU/Tóquio: Violações do Tratado ofuscam conferência de controle de armas
ONU: acordo em votação sobre armas nucleares é uma vitória para a humanidade
