Q3/2021 - UN-LAWS

Treffen der GGE-Laws, Genf, August & September 2021

Im 3. Quartal 2021 gab es zwei Verhandlungsrunden der GGE-LAWS (3. - 13. August und 24. September - 1. Oktober 2021) in Genf. Basierend auf der Einigung über elf grundlegende Prinzipien, die 2019 erreicht wurde, konnten diesmal Fortschritte erzielt werden, die den Vorsitzenden in die Lage versetzen, einen substanziellen Entwurf für eine mögliche Konsens-Empfehlungen vorzulegen. Der Titel des Papiers „Draft elements on possible consensus recommendations in relation to the clarification, consideration and development of aspects oft he normative and operational framework on emerging technologies in the area of lethal autonomous weapon systems“ macht aber bereits deutlich, dass diese „Entwurfselemente“ noch weit weg sind von der Einigung über ein völkerrechtlich relevantes Instrument. Die „Draft Elements“ stellten dennoch im Vergleich zum Ergebnis früherer Verhandlungsrunden einen Fortschritt dar und bieten eine Plattform, auf der man weitere Verhandlungen aufbauen kann. Die Fortschritte beziehen sich insbesondere auf zwei Bereiche: Erstens gelang es, eine präzisere Verständigung zu erreichen, was man unter „autonomen Waffensystemen“ versteht. Zweitens schält sich ein Konsens heraus, dass das Völkerrecht in seiner Gesamtheit in diesem Bereich neuer Waffensysteme Anwendung finden muss.

In Abschnitt 1 (Characteristics) unterscheidet der Entwurf jetzt zwischen „fully autonomous weapons systems“, die sich der Kontrolle durch einen Menschen entziehen, und „partially autonomous weapons systems“, die einem menschlichen Kontrollmechanismus unterliegen[1]. Auf der Basis dieser Differenzierung schlägt Artikel 18 des Entwurfs vor, voll autonome Waffensysteme nicht zu entwickeln, zu produzieren, zu erwerben, zu besitzen, zu lagern und anzuwenden[2]. Diese Formulierung ist zwar noch weit entfernt von der Forderung nach einem umfassenden Verbot autonomer Waffensysteme, wie sie u.a. UN-Generalsekretär António Guterres fordert, öffnet aber die Tür für eine weitere differenzierte Vorgehensweise.

Als ein Fortschritt kann auch gesehen werden, dass es jetzt offensichtlich ein umfängliches Bekenntnis gibt, das Völkerrecht in seiner Gesamtheit als Rechtsgrundlage für die Behandlung des Problems autonomer Waffensysteme zu betrachten. Das betrifft sowohl ein Bekenntnis zur Anwendung der Völkerrechtsgrundätze der Charta der Vereinten Nationen, aber auch zum humanitären Völkerrecht, den Menschenrechten und des Völkerstrafrecht. Bekräftigt wird auch der Grundsatz der „Human Accountability“. In Artikel 12 des Entwurfs heisst es: „Humans must at all times remain accountable in accordance with applicable international law for decisions on the use of force“. Die Verantwortung dafür tragen die Staaten[3].

Die nächste Verhandlungsrunde für die GGE Laws ist für 8. – 12. Dezember 2021 in Genf vorgesehen, am Vorabend der nächsten Überprüfungskonferenz der Convention on Certain Conventional Weapons“ (CCW), unter deren Schirmherrschaft die GGE-Laws operiert[4].

Mehr zum Thema
Q3/2021GGE-LAWS
  1. [1] Draft elements on possible consensus recommendations in relation to the clarification, consideration and development of aspects of the normative and operational framework on emerging technologies in the area of lethal autonomous weapons systems, Revised Chair’s paper, Genf, 20 September 2021: „1. Characterizations (a) A weapon system may be characterized as autonomous if it can, through the use of sensors, computers and algorithms, perform the critical functions of selecting and engaging to apply force against targets without intervention by a human operator or without permanent human involvement or control. (b) Fully autonomous weapons systems are autonomous weapon systems that are designed to operate outside a responsible chain of human command and control. (c) Partially autonomous weapons systems are autonomous weapon systems that are designed to operate within a responsible chain of human command and control. (d) Weapons systems that incorporate autonomy only into functions other than to select and engage to apply force against targets cannot be characterized as autonomous weapons systems.“ In: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2021/gge/documents/chair-paper-september.pdf
  2. [2] Draft elements on possible consensus recommendations in relation to the clarification, consideration and development of aspects of the normative and operational framework on emerging technologies in the area of lethal autonomous weapons systems, Revised Chair’s paper, Genf, 20. September 2021: „18. Not to develop, produce, acquire, possess, deploy or use fully autonomous weapons systems. 19. Not to use any type of autonomous weapons system if it is of a nature to cause superfluous injury or unnecessary suffering, or if it is by nature indiscriminate, or is otherwise incapable of being used in accordance with the rules and principles of international humanitarian law. 20. Not to use any type of autonomous weapons system that cannot perform their functions in accordance with the intention of a human operator and commander to comply with rules and principles of international humanitarian law, including inter alia the principles of distinction, proportionality and precautions in attack. 21. To maintain sufficient human control over partially autonomous weapons, to ensure conformity with international humanitarian law and to satisfy ethical considerations. The use of such weapons should be regulated through measures such as: (a) Limits on the types of target, such as constraining them to objects that are military objectives by nature; (b) Limits on the duration, geographical scope and scale of use, including to enable human judgement and control in relation to a specific attack; (c) Requirements for human–machine interaction and timely intervention and deactivation.“ In: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2021/gge/documents/chair-paper-september.pdf
  3. [3] Draft elements on possible consensus recommendations in relation to the clarification, consideration and development of aspects of the normative and operational framework on emerging technologies in the area of lethal autonomous weapons systems, Revised Chair’s paper, Genf, 20. September 2021: „Human accountability: 12. Humans must at all times remain accountable in accordance with applicable international law for decisions on the use of force.13. Accountability for the development, deployment and use of autonomous weapons systems, including through the operation of such systems within a responsible chain of human command and control remains with States.14. States must ensure accountability for any wrongful act involving any weapon system used by the State’s forces in armed conflict in accordance with applicable international law, in particular international humanitarian law. 15. States must ensure that algorithm-based programming do not rely on data sets that can perpetuate or amplify social biases, including gender and racial bias, and that can thus have implications for compliance with international law.“ In: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2021/gge/documents/chair-paper-september.pdf
  4. [4] CCW-Report, Vol. 5, No. 9, 12. September 2021, Ray Acheson: The CCW Struggle, in: https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2021/prepcom/reports/CCWR9.5.pdf