Q3/2020 - UNESCO

2. Konsultationsrunde der UNESCO Ad-Hoc-Expertengruppe (AHEG) zur ethischen Dimension Künstlicher Intelligenz, 31. August 2020

Am 31. August 2020 diskutierte eine 24köpfige UNESCO-Ad-Hoc-Expertengruppe (AHEG) „Ethik und Künstliche Intelligenz“ die Ergebnisse der öffentlichen Konsultation und der elf virtuellen Seminare zu den im Mai 2020 veröffentlichten „Eckpunkte“ eines möglichen zukünftigen Rechtsinstruments[1]. Der Aufruf zu „Public Comments“ fand ein großes Echo. Es wurden rund 600 Stellungnahmen mit fast 50.000 Vorschlägen von allen Stakeholdergruppen abgegeben. In der Erklärung vom 31. August 2020 heißt es, das 60 Prozent der KI-Anwendungen aus den USA und China, als den beiden führenden Nationen im Bereich Künstlicher Intelligenz kommen, dass es aber gerade daher besonders wichtig ist, ein universelles Instrument auszuarbeiten, dass die Interessen und Zukunftschancen des „globalen Südens“ mit ins Blickfeld nimmt. Die UNESCO-Empfehlung müsse deutlich machen, dass die Normen von Rechtsstaatlichkeit für das Internet gelten und Künstliche Intelligenz auf den Grundsätzen des Völkerrechts, den Menschenrechten und Prinzipien wie Inklusion, Vielfalt und Transparenz entwickelt und angewendet wird.

Erster Entwurf einer UNESCO-Empfehlung „On the Ethics of Artificial Intelligence“, 7. September 2020

Am 7. September 2020 veröffentlichte die AHEG einen ersten Entwurf für eine „UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz“[2]. Der umfangreiche Entwurf enthält 22 Präambel-Paragrafen und 41 operative Artikel. Er gliedert sich in acht Kapitel. Die Kapitel 1 und 2 definierten Reichweite und Ziel der Empfehlung. Die Kernbestandteile der Empfehlung sind in den Kapitel 3 und 4 enthalten, die Werte, Prinzipien und Politikfelder beschreiben. Kapitel 5 definiert Monitoring und Überprüfung. Die Kapitel 6 bis 8 enthalten Querverbindungen und Schlussbestimmungen.

Der Entwurf der UNESCO-Empfehlung geht von einem „ganzheitlichen“ Ansatz zur Ethik der künstlichen Intelligenz aus. Sie definiert nicht, was künstliche Intelligenz ist. Sie betrachtet Ethik als eine dynamische Grundlage für eine normative Evaluierung von KI-Technologien, die sich an der Menschenwürde und dem Wohlergehen von Gesellschaften orientiert und darauf ausgerichtet sein muss, Gefahren für die Menschheit abzuwenden[3]. Das gelte z.B. für die Reproduktion von Vorurteilen und Diskriminierungen in Algorithmen. Gegenstand der Empfehlung sind alle Aktivitäten, die bislang vorrangig oder ausschließlich von Menschen ausgeführt wurden und die jetzt mit Hilfe von maschinellem Lernen, Robotern oder anderen autonomen Systemen ausgeführt werden können. Dabei wird gefordert die Konsequenzen in Betracht zu ziehen, die KI-Anwendungen für die heranwachsenden Generationen und die Entwicklung ihres Verständnisses für die Welt sowie für das generelle menschliche Selbstverständnis, für menschliche Selbstbestimmung, Autonomie und Würde haben[4]. Nach der Empfehlung haben Staaten zwar eine primäre Verantwortung, Lösungen können aber nur durch eine enge Multistakeholder-Zusammenarbeit unter Einbeziehung der Wirtschaft, der Wissenschaft und der Zivilgesellschaft gefunden werden. Gefordert werden „universelle Rahmenbedingungen“ mit Leitlinien für alle Akteure auf der Basis eines umfassenden Respekts der Menschenrechte, der Menschenwürde und der Gleichberechtigung.

Die Kapitel 3 und 4 beschreiben die grundlegenden Werte, Prinzipien und Politikfelder. Die Empfehlung soll demnach auf vier Werten und zehn Prinzipien basieren, die auf insgesamt zehn Politikfeldern umgesetzte werden sollen.

Als grundlegende Werte benennt die Empfehlung:

  1. Respekt, Schutz und Förderung der Menschenwürde, der Menschenrechte und der grundlegenden Freiheiten
  2. Schutz der Umwelt
  3. Sicherung von Vielfalt und Inklusion
  4. Harmonie und Frieden

Als Prinzipien werden definiert:

  1. Proportionalität und „do not harm“
  2. Sicherheit
  3. Fairness und Nicht-Diskriminierung
  4. Nachhaltigkeit
  5. Schutz der Privatsphäre
  6. Menschliche Kontrolle
  7. Transparenz und Erklärbarkeit
  8. Verantwortlichkeit
  9. Öffentliches Bewusstsein und Wissen
  10. Multistakeholder-Zusammenarbeit

Die zehn Politikfelder sind:

  1. Ethical Impact Assessment
  2. Ethische KI-Governance
  3. Datenschutz
  4. Entwicklung und internationale Zusammenarbeit
  5. Umwelt
  6. Gleichberechtigung
  7. Kultur
  8. Bildung und Forschung
  9. Wirtschaft und Arbeit
  10. Gesundheit und Wohlergehen

Als ein wichtiges Instrument zur Umsetzung der Empfehlung wird in Kapitel 5 die Entwicklung einer einheitlichen Methodologie für ein „Ethical Impact Assessment of Artifical Intelligence (EIA) empfohlen. Neue KI-Technologien sollen sowohl vor (ex ante) als auch nach (ex post) ihrer Einführung evaluiert werden. Eine Datenbank mit Fallbeispielen, Best Practices und vergleichende Analysen soll geschaffen werden.

In einer Rede am 17. September 2020 kündigte UNESCO-Generaldirektorin Audrey Azoulay an, den Entwurf der Empfehlung den 193 UNESCO-Mitgliedsstaaten bis zum 31. Dezember 2020 zur Kommentierung vorzulegen[5]. Der finale Text soll von der 41. UNESCO-Generalkonferenz im November 2021 verabschiedet werden.

Mehr zum Thema
Q3/2020UNESCO
  1. [1] UNESCO’s expert group revises the draft text of the Recommendation on the ethics of Artificial Intelligence, Paris, 31. August 2020: „All voices will be heard. UNESCO wishes to produce an instrument that will include the voices of the Global South, young people, women, and other underrepresented groups, and contribute towards fundamental values that leave no one behind. The principles and policies, defined during this process, will be the universal and intergenerational reference, laying the ground for a common framework to ensure the prevalence of the rule of law on the Internet and in the wider digital world. The outbreak of COVID-19 has further exposed AI vulnerabilities, digital divide, and disparity of opportunities. Developing countries are likely to experience more modest gains due to much lower rates of adoption of AI technologies, lack of ownership of such technologies, and often not being an active part in the design and development processes but rather recipients of technology. The economic gains will likely be strongest in China and North America, accounting for almost 70 per cent of AI’s global economic impact. Lack of a comprehensive approach to AI-human interaction undermines our very existence, the way we learn, think and even make decisions. Exclusiveness and cultural hegemony in the design of AI systems and its potential benefits put vulnerable people further at risk. The UNESCO Recommendation is thus of utter importance. It is a starting point to address such concerns as cultural representation, given limited resources of low- and middle-income countries, privacy and data protection, increased surveillance, racial prejudice, and increase of disinformation. The ultimate goal is to ensure that AI is developed and used in line with the principles of inclusiveness, diversity, and transparency.” In: https://en.unesco.org/news/unescos-expert-group-revises-draft-text-recommendation-ethics-artificial-intelligence
  2. [2] Ad Hoc Expert Group (AHEG) for the Preparation of a Draft text of a Recommendation on the Ethics of Artificial Intelligence, OUTCOME DOCUMENT:FIRST DRAFT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE, Paris, 6. September 2020, in: https://unesdoc.unesco.org/ark:/48223/pf0000373434?locale=en
  3. [3] Ad Hoc Expert Group (AHEG) for the Preparation of a Draft text of a Recommendation on the Ethics of Artificial Intelligence, OUTCOME DOCUMENT:FIRST DRAFT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE, Paris, 6. September 2020: „1. This Recommendation addresses ethical issues related to AI. It approaches AI ethics as a systematic normative reflection, based on a holistic and evolving framework of interdependent values, principles and actions that can guide societies in dealing responsibly with the known and unknown impacts of AI technologies on human beings, societies, and the environment and ecosystems, and offers them a basis to accept or reject AI technologies. Rather than equating ethics to law, human rights, or a normative add-on to technologies, it considers ethics as a dynamic basis for the normative evaluation and guidance of AI technologies, referring to human dignity, well-being and the prevention of harm as a compass and rooted in the ethics of science and technology. 2. This Recommendation does not have the ambition to provide one single definition of AI, since such a definition would need to change over time, in accordance with technological developments. Rather, its ambition is to address those features of AI systems that are of central ethical relevance and on which there is large international consensus. Therefore, this Recommendation approaches AI systems as technological systems which have the capacity to process information in a way that resembles intelligent behaviour, and typically includes aspects of reasoning, learning, perception, prediction, planning or control.“ In: https://unesdoc.unesco.org/ark:/48223/pf0000373434?locale=en
  4. [4] Ad Hoc Expert Group (AHEG) for the Preparation of a Draft text of a Recommendation on the Ethics of Artificial Intelligence, OUTCOME DOCUMENT:FIRST DRAFT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE, Paris, 6. September 2020: „AI systems raise new types of ethical issues that include, but are not limited to, their impact on decision-making, employment and labour, social interaction, health care, education, media, freedom of expression, access to information, privacy, democracy, discrimination, and weaponization. Furthermore, new ethical challenges are created by the potential of AI algorithms to reproduce biases, for instance regarding gender, ethnicity, and age, and thus to exacerbate already existing forms of discrimination, identity prejudice and stereotyping. Some of these issues are related to the capacity of AI systems to perform tasks which previously only living beings could do, and which were in some cases even limited to human beings only. These characteristics give AI systems a profound, new role in human practices and society, as well as in their relationship with the environment and ecosystems, creating a new context for children and young people to grow up in, develop an understanding of the world and themselves, critically understand media and information, and learn to make decisions. In the long term, AI systems could challenge human’s special sense of experience and agency, raising additional concerns about human self-understanding, social, cultural and environmental interaction, autonomy, agency, worth and dignity.“ In: https://unesdoc.unesco.org/ark:/48223/pf0000373434?locale=en
  5. [5] Video message from Audrey Azoulay, Director-General of UNESCO, on the occasion of the presentation of the draft Recommendation on the Ethics of Artificial Intelligence, in: https://unesdoc.unesco.org/ark:/48223/pf0000374318?locale=en