Q3/2020 - Europarat

1.384. Sitzung des Ministerkomitees des Europarates zum Bericht des Ad-Hoc-Komitees für Künstliche Intelligenz (CAHAI), 23. September 2020

Auf der 1.384. Sitzung des Ministerkomitees des Europarates wurde der Zwischenbericht des Ad-Hoc-Komitees für Künstliche Intelligenz des Europarates (CAHAI) diskutiert[1]. Das CAHAI, dem alle 47 Mitgliedsstaaten des Europarates angehören, war im September 2019 gegründet worden mit dem Mandat, rechtliche Instrumente zu empfehlen die gewährleisten sollen, dass bei der Entwicklung von Künstlicher Intelligenz die Grundwerte des Europarates – Menschenrechte, Demokratie und Rechtsstaatlichkeit – gebührend Beachtung finden. Durch die Pandemie wurde die Umsetzung des ersten Arbeitsplans stark behindert. Die zweite CAHAI-Plenarsitzung fand am 6. und 7. Juli 2020 als ein virtuelles Meeting statt. Bei der Sitzung des Ministerkomitees am 23. September 2020 ging es vorrangig um technische und prozedurale Fragen.

Das Ministerkomitee nahm die neue CAHAI-Roadmap zur Kenntnis. Dort steht ein Mapping internationaler Aktivitäten zur Künstlichen Intelligenz und die Machbarkeitsstudie zur Ausarbeitung eines Rechtsinstruments im Vordergrund. Überschneidungen mit anderen internationalen Organisationen wie der Europäischen Union (White Paper on AI), der OECD (AI Policy Observatory) und der UNESCO (Ethics and AI) sollen vermieden und Synergiepotentiale aufgedeckt werden. Die Machbarkeitsstudie soll bis Dezember 2020 vorliegen. Sie soll die Hauptelemente eines möglichen Instruments enthalten. Dabei soll auch geklärt werden, ob ein solches Instrument eine neue Konvention, eine politische Empfehlung oder ein Update existierender Abkommen des Europarates sein soll. Das CAHAI hat drei Arbeitsgruppen gebildet zu Politikentwicklung, Multistakeholder-Zusammenarbeit und Rechtsfragen. Eine dritte Plenarsitzung findet Anfang Dezember 2020 statt. Dann soll eine breite Multistakeholder-Diskussion beginnen und im Herbst 2021 in eine größere internationale Konferenz münden. Wenn möglich, will der Europarat noch im Dezember 2021 ein entsprechendes Instrument verabschieden.

Bei den inhaltlichen Fragen diskutierte das Ministerkomitee vor allem die Rolle von Künstlicher Intelligenz bei der Bekämpfung der Pandemie und die Effekte, die das für Menschenrechte, Demokratie und Rechtsstaatlichkeit haben kann. Dabei wurde auch erörtert, inwieweit KI-basierte Technologien, wie Überwachungssoftware, Gesichtserkennung, biometrische Verfahren, Methoden der Geo-Lokalisierung und der Einsatz von Drohnen zur Gefahrenabwehr, unbeabsichtigte Nebeneffekte haben kann, die bestehende Menschenrechte aushöhlen können. Gewarnt wurde von einer „Trivialisierung von Massenüberwachung“. Gefordert wurden menschenrechtliche Sicherungen bei der Entwicklung und Zertifizierung von KI-Technologien. Die Machbarkeitsstudie solle auch Ideen nachgehen, ob und wie ein „Eid des Hippokrates“ für KI-Entwickler oder eine „KI-Fahrerlaubnis“ für Betreiber von KI-basierten Anwendungen sinnvoll und machbar sind[2].

Mehr zum Thema
Q3/2020Europarat
  1. [1] Ministerkomitee des Europarates, 1384. Sitzung, Bericht des Ad hoc Committee on Artificial Intelligence (CAHAI), 23. September 2020, siehe: https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016809ed062
  2. [2] Ministerkomitee des Europarates, 1384. Sitzung, Bericht des Ad hoc Committee on Artificial Intelligence (CAHAI), 23. September 2020: „AI is one of the many tools used by States to contain and combat the COVID-19 pandemic. Several applications of AI have been developed in areas such as supporting research for vaccine development, formulating diagnostics to support healthcare personnel and developing predictive models for the possible evolution of the pandemic. AI has been used to facilitate the analysis of the thousands of research papers published on the pandemic and to ensure better sharing of scientific knowledge, as well as for disease screening purposes. Furthermore, AI might be useful for combating coronavirus misinformation, as long as data protection rights and freedom of speech are adequately protected. Other uses aimed at controlling epidemic risks were also identified: for example, facial recognition and biometric devices, geolocation devices and drones were used to ensure compliance with containment measures by at-risk or infected individuals or populations. Applications have also been developed to warn users that they have been in contact with people potentially carrying the virus. This type of use has a significant impact on certain rights and freedoms protected by international human rights instruments, including the European Convention on Human Rights, such as the right to respect for private and family life (right to privacy in particular) and freedom of movement, and should be considered by the CAHAI. The existing or envisaged use of AI applications in certain countries for epidemic monitoring and control as well as for the prevention of new disease outbreaks could lead to the trivialisation of the use of mass surveillance of populations in the absence of adequate safeguards…. , it would be important to also examine, in the framework of the feasibility study, the mechanisms and actions that could be taken to ensure the effectiveness of the proposed legal framework, both at the level of the Council of Europe and at the level of the member States. This would include, in particular, questions relating to the creation of mechanisms of collaborative law-making (in particular the use, in some specific cases, of “sandboxing[9]”) and of ex-ante verification and/or certification of AI applications or control mechanisms by independent authorities, as well as the advisability of regulating the professions of mega-data experts (for instance the opportunity to establish a professional order for data scientists, to develop deontological charters based on ethical principles, a “Hippocratic Oath” for AI professionals or the creation of a “Driver’s License” for AI, etc.)“, in: https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016809ed062