Q2/2020 - Europarat

Ad-hoc Komitee für künstliche Intelligenz, Straßburg, 7. April 2020 (Videokonferenz)

Das für März 2020 geplante 2. Treffen des Ad-hoc Komitees für künstliche Intelligenz des Europarates (CAHAI) soll jetzt als virtuelle Konferenz am 6. und 7. Juli 2020 stattfinden[1]. Das CAHAI, dem alle 47 Mitgliedsstaaten des Europarats angehören, war im September 2019 gegründet worden. Es soll erörtern, welche rechtlichen Instrumente der Europarat ausarbeiten sollte, um zu gewährleisten, dass bei der Entwicklung von künstlicher Intelligenz die Menschenrechte gebührend Beachtung finden. Auf seiner 3. (virtuellen) Sitzung hatte das CAHAI-Büro am 27. März 2020 den Zeitplan neu justiert. Das CAHAI-Büro, das von Gregor Strojin, Staatsekretär im slowenischen Justizministerium geleitet wird, behandelte den ersten Entwurf der vereinbarten Machbarkeitsstudi. Die Machbarkeitsstudie enthält ein „Mapping“ der sich immer weiter verzweigenden internationalen Diskussion zum Thema künstliche Intelligenz sowie eine Übersicht über bislang verabschiedete internationale Dokumente und nationaler Strategien. Die Studie soll auch die Rolle der privaten Wirtschaft bei der Entwicklung und Einführung von künstlicher Intelligenz genauer untersuchen. Drei thematische Working Groups wollen eine breit angelegten Multistakeholder-Diskussionsprozess organisieren.

Empfehlung zu Algorithmen und Menschenrechten, 8. April 2020

Am 8. April 2020 verabschiedete der Europarat eine Empfehlung zu Algorithmen und Menschenrechten (Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems). Die Empfehlung verpflichtet die 47 Mitglieder des Europarats sicher zu stellen, dass bei der Verwendung, Entwicklung und Anschaffung von algorithmischen Systemen die Menschenrechte ausreichend beachtet werden. Die Staaten werden verpflichtet wirksame Rechts-, Regulierungs- und Kontrollrahmen zu schaffen, durch die Menschenrechtsverletzungen verhindert, aufgedeckt, untersagt und behoben werden können, unabhängig davon, ob sie öffentlichen oder privaten Akteuren zuzuschreiben sind.

Die Empfehlung erkennt das große Potenzial algorithmischer Verfahren bei der Förderung von Innovation und wirtschaftlicher Entwicklung in vielen Bereichen an, darunter Kommunikation, Bildung, Transportwesen, Verwaltung und Gesundheitswesen. Im Zusammenhang mit der gegenwärtigen Covid-19-Pandemie werden algorithmische Systeme für die Vorhersage, Diagnose und Forschung über Impfstoffe und Behandlungen eingesetzt. Elektronische Systeme zur verstärkten Bewegungsüberwachung werden in einer wachsenden Zahl von Mitgliedsstaaten diskutiert – auch sie stützen sich auf Algorithmen und Automatisierung.

Gleichzeitig warnt die Empfehlung vor erheblichen Gefahren für die Menschenrechte in Verbindung mit dem Einsatz algorithmischer Systeme. Dies betrifft insbesondere das Recht auf ein faires Verfahren, das Recht auf Privatsphäre und Datenschutz, die Gedanken-, Gewissens- und Religionsfreiheit, die Freiheit der Meinungsäußerung und die Versammlungsfreiheit, das Recht auf Gleichbehandlung sowie wirtschaftliche und soziale Rechte[2].

Mehr zum Thema
Q2/2020Europarat
  1. [1] Report of the Third Meeting oft he Council of Europe´s Ad Hoc Committee on Artificial Intelligenc (CAHAI), Strasburg, 7. April 2020: The CAHAU should „ examine the feasibility and potential elements on the basis of broad multi-stakeholder consultations, of a legal framework for the development, design and application of artificial intelligence, based on the Council of Europe’s standards on human rights, democracy and the rule of law. When fulfilling this task, the Ad hoc Committee shall: take into account the standards of the Council of Europe relevant to the design, development and application of digital technologies, in the fields of human rights, democracy and the rule of law, in particular on the basis of existing legal instruments; take into account relevant existing universal and regional international legal instruments, work undertaken by other Council of Europe bodies as well as ongoing work in other international and regional organisations; take due account of a gender perspective, building cohesive societies and promoting and protecting rights of persons with disabilities in the performance of its tasks.“ In: https://www.coe.int/en/web/artificial-intelligence/cahai#{%2266693378%22:[1],%2266693418%22:[1]}
  2. [2] Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems, Straßburg, 8. April 2020: „B. Obligations of States with respect to the protection and promotion of human rights and fundamental freedoms in the context of algorithmic systems: 1. Principles of general application: 1.1. Legislation: The process of drafting, enacting and evaluating policies and legislation or regulation applicable to the design, development and ongoing deployment of algorithmic systems should be transparent, accountable and inclusive. States should regularly consult with all relevant stakeholders and affected parties, including at sector level where appropriate. States should ensure the enforceability and enforcement of laws, including by demanding that relevant actors produce adequate documentation to verify legal compliance. Where public and private sector actors fail to discharge their legal duties, they should be held responsible. 1.2. Ongoing review: Throughout the entire lifecycle of an algorithmic system, from the proposal stage through to the evaluation of effects, the human rights impacts of individual systems and their interaction with other technologies should be assessed regularly. This is necessary due to the speed and scale at which these systems function and the fast-evolving technological environment in which they operate. This should be done based on broad, effective consultations with those affected or likely to be affected. 1.3. Democratic participation and awareness: In order to ensure the full exercise of human rights and democratic freedoms, States should foster general public awareness of the capacity, power and consequential impacts of algorithmic systems, including their potential use to manipulate, exploit, deceive or distribute resources, with a view to enabling all individuals and groups to be aware of their rights and to know how to put them into practice, and how to use digital technologies for their own benefit. In addition, all relevant actors, including those in the public, private and civil society sectors in which algorithmic systems are contemplated or are in use, should promote, encourage and support in a tailored and inclusive manner (taking account of diversity with respect to, for instance, age, gender, race, ethnicity, cultural or socio-economic background) a level of media, digital and information literacy that enables the competent and critical consideration of and use of algorithmic systems. 1.4. Institutional frameworks: States should identify and/or develop appropriate institutional and regulatory frameworks and standards that set general or sector-specific benchmarks and safeguards to ensure the compatibility of the design, development and ongoing deployment of algorithmic systems with human rights. Efforts should ensure that direct or indirect risks to human rights, including possible cumulative effects of distinct systems, are promptly identified and that adequate remedial action is initiated. States should invest in relevant expertise to be available in adequately resourced regulatory and supervisory authorities. They should further closely co-operate with independent authorities, equality bodies, national human rights institutions, universities, standard-setting organisations, operators of services, developers of algorithmic systems and relevant non-governmental organisations in various fields, such as, particularly, those engaged in defending human rights. in: https://search.coe.int/cm/pages/result_details.aspx?objectid=09000016809e1154