Drone russo com decisão final da IA terá matado três civis
Segundo uma reportagem do New York Times citada pela Gizmodo, um drone russo terá tomado autonomamente a decisão final num ataque que matou três civis em Zaporizhzhia. Os destroços continham um computador NVIDIA Jetson Orin, mas permanecem dúvidas sobre o sistema e a cadeia de responsabilidade.
Resumo
Um drone russo utilizado num ataque em Zaporizhzhia, na Ucrânia, terá tomado autonomamente a decisão final sobre o ataque, segundo uma reportagem do New York Times citada pela Gizmodo. Os destroços continham um computador NVIDIA Jetson Orin, mas o hardware não prova, por si só, quem desenvolveu ou operou o sistema.
Na prática
O ataque ocorreu a 6 de julho. O drone tinha como alvo tanques de propano numa estação de serviço, mas embateu numa parede e explodiu antes de chegar ao alvo. Morreram Tetiana Bubynets, de 19 anos, Oleksiy Svirin, de 41, e Roman Karpiy, de 48. Peritos citados na reportagem descrevem o aparelho como um sistema experimental de IA, diferente de sistemas anteriores porque a decisão final sobre o ataque não terá sido tomada por um comandante humano.
Funcionários ucranianos identificaram a natureza autónoma do sistema depois de recuperarem dos destroços um computador de bordo. A NVIDIA identificou o componente como pertencente à família Jetson Orin e afirma que os seus módulos são produtos de uso geral, vendidos a estudantes, programadores e startups, e não equipamentos concebidos para fins militares. O componente pode ter chegado à Rússia através de revendedores, mas essa possibilidade não demonstra envolvimento da empresa.
O que falta saber
Não foi divulgado publicamente todo o software, a cadeia de comando ou os dados usados pelo drone. Também não existe, no relato citado, uma confirmação independente de todos os detalhes operacionais. Isto impede concluir com precisão como o sistema reconheceu o alvo, que regras aplicou ou que intervenção humana existiu antes do lançamento.
Porque importa
- Um sistema de armas que toma a decisão final sobre um ataque reduz a distância entre a recomendação algorítmica e o uso letal da força.
- Sem registos técnicos e uma cadeia de comando clara, torna-se mais difícil investigar responsabilidades quando há vítimas civis.
- Organizações de direitos humanos alertam que velocidade, escala, dados enviesados e falta de transparência podem dificultar o cumprimento dos princípios de distinção, proporcionalidade e precaução do direito internacional humanitário.