Q1/2021 - Europarat

Expertentagung zur Künstlichen Intelligenz in Berlin, 20. Januar 2021

Am 20. Januar 2021 fand eine hochrangige Expertentagung des Europarates zu der vom Ad-Hoc-Komitee für künstliche Intelligenz (CAHAI) vorgelegten Machbarkeitsstudie zur Ausarbeitung eines Rechtsinstruments statt. Veranstalter war das deutsche Außenministerium. Die Bundesrepublik Deutschland präsidiert im Jahr 2021 das Ministerkomitee des Europarates. Keynote-Speaker waren u. a. der deutsche Außenminister Heiko Maas, Rik Daems, Präsident der Parlamentarischen Versammlung des Europarates, und Dunja Mijatović, die Menschenrechtskommissarin des Europarates.

  • In seiner Eröffnungsrede wies Außenminister Heiko Maas auf die Janusköpfigkeit künstlicher Intelligenz hin. Je mehr man sich künstlicher Intelligenz (KI) bediene, desto bewusster müsse man sich sowohl mit den Chancen als auch den Risiken auseinandersetzen. KI-basierte Technologien wie Gesichtserkennung hätten ein großes Missbrauchs- und Diskriminierungspotenzial. Maas sprach sich für „human centered standards for artificial intelligence“ aus. Künstliche Intelligenz würde zunehmend auch hineingezogen in die geo-politischen Auseinandersetzungen. Maas warnte vor einem bipolaren Konflikt zwischen einem staatlich kontrollierten Internet in China und einem marktkontrollierten Internet aus dem Silicon Valley. Er setzte sich für einen auf Rechtsstaatlichkeit basierenden europäischen Weg ein. Europäer hätten kein Interesse an einer „digital bipolarity“. Im Kern gehe es darum, dass das Internet und künstliche Intelligenz Demokratie stärke und nicht unterminiere. Europa müsse daher stärker sein eigenes Potenzial zur Geltung bringen[1].
     
  • Im Abschlussdokument der Konferenz wird auf die Notwendigkeit, Widersprüchlichkeit und Komplexität einer Regulierung von künstlicher Intelligenz hingewiesen. Als besondere Risiken benannt werden u. a. die Entwicklung einer Überwachungsgesellschaft (Surveillance Society), der Verlust individueller Autonomie, Desinformationskampagnen, die Verzerrung demokratischer Prozesse, insbesondere bei Wahlen, sowie verschiedene Formen von Diskriminierung. Die Schlusserklärung konstatiert „Lücken“ in der existierenden Rechtsordnung und setzt sich für die Ausarbeitung eines verbindlichen Rechtsrahmens für die Entwicklung und Anwendung künstlicher Intelligenz ein (Binding Horizontal Legal Framework). Dieses Rahmenabkommen solle ergänzt werden durch sektor-spezifische Rechtsinstrumente. Notwendig seien transparente Verfahren und Umsetzungsmechanismen. Vor der Einführung neuer Anwendungen müssten Technologiefolgenabschätzungen stattfinden. Sollten Analysen zu dem Ergebnis kommen, dass die jeweilige Anwendung mit Risiken für Menschenrechte, Demokratie oder Rechtsstaatlichkeit verbunden ist, sei es durchaus richtig, auch Verbote oder ein Moratorium in Betracht zu ziehen. Das Ad- Hoc-Komitee für Künstliche Intelligenz (CAHAI) des Europarates wurde aufgefordert, auf der Basis der Machbarkeitsstudie vom Dezember 2020 seine Arbeit zu intensivieren und dabei mit anderen Organisationen, insbesondere mit der Europäischen Union, zusammenzuarbeiten[2].

4. Sitzung des Ad-Hoc-Komitees für Künstliche Intelligenz (CAHAI), 26. Februar 2021

Am 26. Februar 2021 fand die 4. Sitzung des Ad-Hoc-Komitees für Künstliche Intelligenz (CAHAI) statt. Das Komitee diskutierte den Stand der Multistakeholder-Konsultationen zu der im Dezember 2020 vorgelegten Machbarkeitsstudie und nahm den Bericht von der Berliner Expertenkonferenz entgegen. Diskutiert wurden die Berichte der beiden Untergruppen des CAHAI: der Policy Development Group (CAHAI-PDG) und der Legal Framework Group (CAHAI-LFG). Im Zentrum stand dabei die Frage, ob ein zukünftiges Rechtsinstrument die Form einer rechtsverbindlichen Konvention oder mehr unverbindlichen Empfehlungen haben sollte.  Die 5. Sitzung der CAHAI-Plenargruppe ist für den 5. bis 7. Juli 2021 vorgesehen[3]. 

Mehr zum Thema
Q1/2021Europarat
  1. [1] Rede des Bundesministers des Auswärtigen Heiko Maas bei der virtuellen Konferenz „Human Rights in the Era of AI: Europe as an international standard setter for Artificial Intelligence“, Berlin, 20. Januar 2021: „Great power rivalry has led to a new geopolitics of bits and bytes. From this competition for technological supremacy, we see two poles of power emerging: On one side, the Chinese digital model, which harnesses technology for state surveillance and repression. On the other, Silicon Valley with its excessive market orientation and big tech monopolies, which have recently come under scrutiny even in the US. As Europeans, we have no interest in digital bipolarity. We are open to working with partners around the world to ensure that technology does not erode but reinforces democracy. And I’m hopeful that US President Biden will be a strong partner in this. But we shouldn’t wait for Washington. Our ambition must be to continue building our own European digital model that puts humans at the centre, remains open to the world and protects our values and democracy. Applied to AI, this means: First, Europe must develop its own AI capabilities. The new EU budget and the Recovery Fund have therefore earmarked 200 billion euro for digitalisation, including AI. Second, we must set standards for human-centered AI. Such European standards can create benchmarks worldwide. With the European Convention on Human Rights and other legal instruments, we have a strong legal framework in place. How to apply this framework to AI with new and specific rules is the question we are discussing today: 1. AI is hugely complex. That is why we need to secure human control over algorithms to ensure accountability and build users’ trust. 2. AI can have biases. Facial recognition technology is less reliable for people who have darker skin. We must make sure AI does not increase, but fights discrimination. 3. AI and tracking technology used by companies and governments is a reality. But we need strict limits to protect privacy. And finally: 4. AI use by social networks can fuel polarisation by creating “echo chambers”. Therefore, we need joint rules against extremism and hate speech online.“ In: germanycoe.de/en/pages/documents
  2. [2] Human Rights in the Era of AI - Europe as international Standard Setter for Artificial Intelligence, Conference Conclusions, 20. Januar 2021: „1. Concludes that Artificial Intelligence represents a major opportunity for each individual and for the harmonious development of our societies, as encouraged in particular by the Sustainable Development Goals of the United Nations. 2. Recognises that the increased reliance on Artificial Intelligence entails substantial risks, in particular in relation to human rights, democracy and the rule of law – the core elements upon which our European societies are built. 3. Recognises that discrimination, the advent of a surveillance society, the weakening of human autonomy, information distortion, electoral interference and digital exclusion are concrete concerns that are being expressed in relation to Artificial Intelligence. 4. Notes that CAHAI’s feasibility study, as well as recent reports of the Parliamentary Assembly of the Council of Europe and the Recommendations of the Commissioner for Human Rights, shed light on many such consequences for individuals and for society as a whole. 5. Notes that CAHAI’s feasibility study identified existing gaps in the currently applicable legal framework with regard to the challenges raised by the design, development and use of Artificial Intelligence. 6. Notes that, consequently, appropriate international regulation of Artificial Intelligence, based on, but also complementing, existing legal standards is essential to ensure that the design, development and use of Artificial Intelligence will be in accordance with and will strengthen human rights, democracy and the rule of law. 7. Strongly supports the development of a binding horizontal legal framework, laying the basic foundations for any application of Artificial Intelligence and, at the same time, the development of sector-specific legal instruments of a binding or non-binding nature, depending on the inherent risks to human rights, democracy and the rule of law. 8. Recognises that specific requirements for Artificial Intelligence that ensure transparency, the quality of training data, human autonomy, sufficient complaint options and remedies, as well as guaranteeing effective enforcement mechanisms, among other things, are of utmost importance when developing elements of a future legal framework for Artificial Intelligence. 9. Notes that AI applications that promote, strengthen and augment the protection of human rights, democracy and the rule of law should be fostered. 10. Recommends that, if a context-specific risk assessment finds that an AI application can pose significant or unknown risks to human rights, democracy or the rule of law, and if no appropriate mitigation measures exist within current legal frameworks, a ban or moratorium be considered as a last resort. 11. Encourages the CAHAI to continue its work also through multi-stakeholder consultations. 12. Encourages all bodies of the Council of Europe to continue their work on Artificial Intelligence, in coordination with CAHAI. 13. Calls on all international organisations, including the European Union, to co-operate with the Council of Europe in their work on Artificial Intelligence“. In: https://germanycoe.de/en/pages/documents
  3. [3] AD HOC COMMITTEE ON ARTIFICIAL INTELLIGENCE (CAHAI), 4. Meeting, Strasburg, 26. Februar 2021, Online meeting – KUDO Platform, in: https://www.coe.int/en/web/artificial-intelligence/cahai#{%2266693418%22:[1]}