“Fully Autonomous Combat Systems” and the Implications of their Use for international Humanitarian Law.

Authors

  • Alexandre Peres Teixeira Capitão-de-Mar-e-Guerra (FN-RM1).Professorde Direito Internacional Humanitário.Mestre em Ciências Navaispela Escola de Guerra Naval.Doutorando do Programa de Pós-graduação em Direito do UniCEUB

Keywords:

International Humanitarian Law, Cyberspace, Artificial Intelligence, Modern Warfare

Abstract

With the development of Artificial Intelligence (AI) and its use in combat systems, ethical-juridical questions arose that populate the debates in the Academy. In this way, there is a real possibility that such systems are endowed, using AI, with the full capacity of full control of the decision cycle on the use of lethal force against human beings. Such conduct raises serious doubts about the ability of such systems to respect the principles of International Humanitarian Law (IHL), especially about Distinction, Proportionality, Military Necessity, Limitation and Accountability of Command. Thus, this article proposes a discussion on the legal consequences of using AI in Fully Autonomous Combat Systems (FAWS).

References

ALVES, José Eustáquio. A desobediência civil do robô sapiens. Ecodebate. 2017. Disponível em: https://www.ecodebate.com.br/2017/08/14/desobediencia-civil-dos-robos- sapiens-artigo-de-jose-eustaquio-diniz-alves/. Acesso em: 01 julho 2020.

ANDERSON, Kenneth and WAXMAN, Matthew. Law and Ethics for Autonomous Weapon Systems: Why a Ban Won't Work and How the Laws of War Can (April 10, 2013). Stanford University, The Hoover Institution (Jean Perkins Task Force on National Security and Law Essay Series), 2013; American University, WCL Research Paper 2013-11; Columbia Public Law Research Paper 13-351. Disponível em: SSRN: https://ssrn.com/abstract=2250126 or http://dx.doi.org/10.2139/ssrn.2250126. Acesso em: 20 jun. 2020.

ARKIN, Ronald C. Governing Lethal Behavior in Autonomous Systems, CRC Press Taylor & Francis Group, Boca Raton F.L., 2009.

CORN, Geoffrey. Autonomous Weapon Systems: Managing the Inevitability of 'Taking the Man out of the Loop' (June 14, 2014). Disponível em: SSRN: https://ssrn.com/abstract=2450640 or http://dx.doi.org/10.2139/ssrn.2450640. Acesso em: 13 jun. 2020.

DRAPER, G.I.A.D. The implementation and enforcement of the Geneva Conventions of 1949 and of the two additional protocols of 1979. Recueil des Cours. The Hague, 1979, Vol. 164 III, p. 5.

DUARTE, Érico. Conduta da Guerra na Era Digital e Suas Implicações para o Brasil: Uma Análise de Conceitos, Políticas e Práticas de Defesa. Rio de Janeiro: Ipea, 2012.

FERREIRA, Tiago Borne. Tecnologia, guerra e capacidades militares: sistemas robóticos e desenho de força no século XXI. 2017. 186f. Tese (Doutorado em Estudos Estratégicos Internacionais) - Faculdade de Ciências Econômicas da Universidade Federal do Rio Grande do Sul. Porto Alegre. Disponível em: https://www.lume.ufrgs.br/handle/10183/172458. Acesso em: 07 jun. 2020.

HOFFMANN-RIEM, Wolfgang. Inteligência Artificial como oportunidade para a regulação jurídica. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3756. Acesso em: 13 jun. 2020.

HURST, Jules. O Devido Cuidado com a Robotização do Campo de Batalha. Military Review - Edição brasileira. Fort Leavenworth, Kansas. Quarto trimestre 2018. Disponível em: https://www.armyupress.army.mil/Journals/Edicao- Brasileira/Arquivos/Quarto-Trimestre-2018/O-Devido-Cuidado-com-a- Robotizacao-do-Campo-de-Batalha/. Acesso em: 06 jun. 2020.

KAGAN, Frederick. Guerra e Pós Guerra. Tradução por Reginaldo Gomes Garcia dos Reis. Rio de Janeiro: Escola de Guerra Naval. 2003. 65 p.

KATO, Rafael. A Revolução dos Robôs chega aos campos de batalha. Revista Exame. Março 2018. Disponível em: https://www.defesaaereanaval.com.br/naval/a-revolucao-dos-robos-chega- aos-campos-de-batalha. Acesso em: 04 jun. 2021.

MELZER, Nils. International Humanitarian Law: a Comprehensive Introduction. Comitê Internacional da Cruz Vermelha. Genebra. Agosto de 2016. Disponível em: https://www.icrc.org/en/publication/4231-international- humanitarian-law-comprehensive-introduction. Acesso em: 08 ago. 2021.

MELLO, Celso D. de Albuquerque. Curso de Direito Internacional, 14. ed., rev. e amp., 2. v., Rio de Janeiro: Renovar. 2002.

SALDAN, Eliane. Os desafios jurídicos da guerra no espaço cibernético. Brasília, 2012. 118 f. Dissertação (Mestrado). Instituto Brasiliense de Direito Público, Brasília, 2012.

SCHMITT, Michael N. Tallinn Manual 2.0 on the international law applicable to cyber operations. Cambridge: Cambridge University Press, 2017. Disponível em: https://assets.cambridge.org/97811071/77222/frontmatter/9781107177222_fr ontmatter.pdf. Acesso em: 25 jun. 2020.

SHARKEY, Noel. The evitability of autonomous robot warfare. International. Review of the Red Cross in Cambridge University Press, [S.l.], vol. 94(886), p. 787-799, march 2013. Disponível em: https://www.cambridge.org/core/journals/international-review-of-the-red- cross/article/evitability-of-autonomous-robot- warfare/35D0C3294D834F23BF1C0B33FC51A166. Acesso em: 20 jun. 2020.

SIMPERE, Anne-Sophie. Robôs assassinos, a nova ameaça. Tradução de Inês Castilho e Antônio Martins. Outras Palavras. Julho de 2018. Disponível em: https://outraspalavras.net/geopoliticaeguerra/robos- assassinos-a-nova-ameaca/. Acesso em: 28 jun. 2020.

SMITH, JESSICA Z. Malekos. Imagining a Killer Robot's First Words: Engineering State-in-The-Loop Legal Responsibility for Fully Autonomous Weapons Systems (July 12, 2018). Harvard Kennedy School Review, July 12, 2018. Disponível em: SSRN: https://ssrn.com/abstract=3213721. Acesso em: 12 jun. 2020.

TEIXEIRA, Capitão-de-Corveta (FN) Alexandre Peres. A guerra assimétrica global: a Batalha do século XXI e a Capitulação do Direito Internacional. 2006. 60 f. Monografia (Especialização em Direito Internacional dos Conflitos Armados) – Faculdade de Direito, Universidade de Brasília / Ruhr- Universitat Bochum, Brasília, 2006.

Downloads

Published

2023-10-24

How to Cite

Teixeira, A. P. (2023). “Fully Autonomous Combat Systems” and the Implications of their Use for international Humanitarian Law. Revista Do Ministério Público Militar, 48(35), 245–271. Retrieved from https://revista.mpm.mp.br/rmpm/article/view/58

Issue

Vol. 48 No. 35 (2021): Revista do Ministério Público Militar

Section

Direitos Humanos e Direito Internacional Humanitário

License

Copyright (c) 2023 Revista do Ministério Público Militar

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Licença Creative Commons

Este trabalho está licenciado com uma Licença Creative Commons – Atribuição 4.0 Internacional.