• Os “Sistemas de Combate Totalmente Autônomos” e as implicações do seu uso para o Direito Internacional Humanitário
  • “Fully Autonomous Combat Systems” and the Implications of their Use for international Humanitarian Law.
  • Alexandre Peres Teixeira
    • Resumo
    • Com o desenvolvimento da Inteligência Artificial (IA) e sua utilização em sistemas de combate, surgiram questionamentos de ordem ético-jurídica, que aquecem os debates na Academia. Neste caminho, existe a real possibilidade de que tais sistemas sejam dotados, por meio do emprego da IA, com a capacidade de controle total do ciclo de decisão sobre o uso da força letal contra seres humanos. Tal possibilidade levanta sérias dúvidas sobre a capacidade de tais sistemas respeitarem os princípios do Direito Internacional Humanitário (DIH), principalmente naquilo que concerne à Distinção, Proporcionalidade, Necessidade Militar, Limitação e Responsabilização do Comando. Desta forma, o presente artigo propõe uma discussão sobre as consequências jurídicas do emprego de IA em Sistemas de Combate Totalmente Autônomos.
    • Palavras-chave
    • Direito Internacional Humanitário. Ciberespaço. Inteligência Artificial. Conflitos Armados.
    • Referências
    • ALVES, José Eustáquio. A desobediência civil do robô sapiens. Ecodebate. 2017. Disponível em: https://www.ecodebate.com.br/2017/08/14/desobediencia-civil-dos-robos- sapiens-artigo-de-jose-eustaquio-diniz-alves/. Acesso em: 01 julho 2020.
      ANDERSON, Kenneth and WAXMAN, Matthew. Law and Ethics for Autonomous Weapon Systems: Why a Ban Won't Work and How the Laws of War Can (April 10, 2013). Stanford University, The Hoover Institution (Jean Perkins Task Force on National Security and Law Essay Series), 2013; American University, WCL Research Paper 2013-11; Columbia Public Law Research Paper 13-351. Disponível em: SSRN: https://ssrn.com/abstract=2250126 or http://dx.doi.org/10.2139/ssrn.2250126. Acesso em: 20 jun. 2020.
      ARKIN, Ronald C. Governing Lethal Behavior in Autonomous Systems, CRC Press Taylor & Francis Group, Boca Raton F.L., 2009.
      CORN, Geoffrey. Autonomous Weapon Systems: Managing the Inevitability of 'Taking the Man out of the Loop' (June 14, 2014). Disponível em: SSRN: https://ssrn.com/abstract=2450640 or http://dx.doi.org/10.2139/ssrn.2450640. Acesso em: 13 jun. 2020.
      DRAPER, G.I.A.D. The implementation and enforcement of the Geneva Conventions of 1949 and of the two additional protocols of 1979. Recueil des Cours. The Hague, 1979, Vol. 164 III, p. 5.
      DUARTE, Érico. Conduta da Guerra na Era Digital e Suas Implicações para o Brasil: Uma Análise de Conceitos, Políticas e Práticas de Defesa. Rio de Janeiro: Ipea, 2012.
      FERREIRA, Tiago Borne. Tecnologia, guerra e capacidades militares: sistemas robóticos e desenho de força no século XXI. 2017. 186f. Tese (Doutorado em Estudos Estratégicos Internacionais) - Faculdade de Ciências Econômicas da Universidade Federal do Rio Grande do Sul. Porto Alegre. Disponível em: https://www.lume.ufrgs.br/handle/10183/172458. Acesso em: 07 jun. 2020.
      HOFFMANN-RIEM, Wolfgang. Inteligência Artificial como oportunidade para a regulação jurídica. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. ISSN 2236-1766. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3756. Acesso em: 13 jun. 2020.
      HURST, Jules. O Devido Cuidado com a Robotização do Campo de Batalha. Military Review - Edição brasileira. Fort Leavenworth, Kansas. Quarto trimestre 2018. Disponível em: https://www.armyupress.army.mil/Journals/Edicao- Brasileira/Arquivos/Quarto-Trimestre-2018/O-Devido-Cuidado-com-a- Robotizacao-do-Campo-de-Batalha/. Acesso em: 06 jun. 2020.
      KAGAN, Frederick. Guerra e Pós Guerra. Tradução por Reginaldo Gomes Garcia dos Reis. Rio de Janeiro: Escola de Guerra Naval. 2003. 65 p.
      KATO, Rafael. A Revolução dos Robôs chega aos campos de batalha. Revista Exame. Março 2018. Disponível em: https://www.defesaaereanaval.com.br/naval/a-revolucao-dos-robos-chega- aos-campos-de-batalha. Acesso em: 04 jun. 2021.
      MELZER, Nils. International Humanitarian Law: a Comprehensive Introduction. Comitê Internacional da Cruz Vermelha. Genebra. Agosto de 2016. Disponível em: https://www.icrc.org/en/publication/4231-international- humanitarian-law-comprehensive-introduction. Acesso em: 08 ago. 2021.
      MELLO, Celso D. de Albuquerque. Curso de Direito Internacional, 14. ed., rev. e amp., 2. v., Rio de Janeiro: Renovar. 2002.
      SALDAN, Eliane. Os desafios jurídicos da guerra no espaço cibernético. Brasília, 2012. 118 f. Dissertação (Mestrado). Instituto Brasiliense de Direito Público, Brasília, 2012.
      SCHMITT, Michael N. Tallinn Manual 2.0 on the international law applicable to cyber operations. Cambridge: Cambridge University Press, 2017. Disponível em: https://assets.cambridge.org/97811071/77222/frontmatter/9781107177222_fr ontmatter.pdf. Acesso em: 25 jun. 2020.
      SHARKEY, Noel. The evitability of autonomous robot warfare. International. Review of the Red Cross in Cambridge University Press, [S.l.], vol. 94(886), p. 787-799, march 2013. Disponível em: https://www.cambridge.org/core/journals/international-review-of-the-red- cross/article/evitability-of-autonomous-robot- warfare/35D0C3294D834F23BF1C0B33FC51A166. Acesso em: 20 jun. 2020.
      SIMPERE, Anne-Sophie. Robôs assassinos, a nova ameaça. Tradução de Inês Castilho e Antônio Martins. Outras Palavras. Julho de 2018. Disponível em: https://outraspalavras.net/geopoliticaeguerra/robos- assassinos-a-nova-ameaca/. Acesso em: 28 jun. 2020.
      SMITH, JESSICA Z. Malekos. Imagining a Killer Robot's First Words: Engineering State-in-The-Loop Legal Responsibility for Fully Autonomous Weapons Systems (July 12, 2018). Harvard Kennedy School Review, July 12, 2018. Disponível em: SSRN: https://ssrn.com/abstract=3213721. Acesso em: 12 jun. 2020.
      TEIXEIRA, Capitão-de-Corveta (FN) Alexandre Peres. A guerra assimétrica global: a Batalha do século XXI e a Capitulação do Direito Internacional. 2006. 60 f. Monografia (Especialização em Direito Internacional dos Conflitos Armados) – Faculdade de Direito, Universidade de Brasília / Ruhr- Universitat Bochum, Brasília, 2006.
    • Abstract
    • With the development of Artificial Intelligence (AI) and its use in combat systems, ethical-juridical questions arose that populate the debates in the Academy. In this way, there is a real possibility that such systems are endowed, using AI, with the full capacity of full control of the decision cycle on the use of lethal force against human beings. Such conduct raises serious doubts about the ability of such systems to respect the principles of International Humanitarian Law (IHL), especially about Distinction, Proportionality, Military Necessity, Limitation and Accountability of Command. Thus, this article proposes a discussion on the legal consequences of using AI in Fully Autonomous Combat Systems (FAWS).
    • Keywords
    • International Humanitarian Law. Cyberspace. Artificial Intelligence. Modern Warfare.
    • pt_BR