Q2/2021 - UNESCO

Windhoek +30-Deklaration, Windhoek, 3. Mai 2021

Anlässlich des 30 Jahrestages der Verabschiedung der Windhoek Declaration von 1991 fand vom 29. April bis zum 3. Mai 2021 in Windhoek/Namibia eine hochrangige UNESCO-Konferenz zum Thema „Information as a Public Good“ statt. 1991 hatte die UNESCO bei einer Konferenz in Windhoek die jahrelange ideologisch kontroverse Debatte um eine „New World Information and Communication Order“ (NWICO) beendet und sich uneingeschränkt zum Recht auf freie Meinungsäußerung, wie es in Artikel 19 der UN-Menschenrechtsdeklaration von 1948 verankert ist, bekannt. Seither wird der 3. Mai jährlich als „Welttag der Pressefreiheit“ begangen. Bei der 2021er Konferenz wurde eine „Windhoek +30-Deklaration“ verabschiedet, in der auf die seither stattgefundenen Veränderungen – digitale Revolution und Entwicklung des Internet - eingegangen wird. Die „Windhoek+30-Deklaration“ stellt fest, dass die Bedrohungen der Pressefreiheit in den letzten dreißig Jahren nicht geringer geworden sind. Heute würde die Freiheit durch Internet-Shutdowns und durch von künstlicher Intelligenz gesteuerte autonome Systemen, die Informationsinhalte blockieren, filtern und löschen, bedroht. Die Deklaration bezieht sich auf die von UN-Generalsekretär António Guterres im Juni 2020 veröffentliche „Roadmap for Digital Cooperation“ und erinnert an die sogenannte ROAM-Prinzipien (Rights, Openness, Accessibility & Multistakeholder), die der Arbeit der UNESCO im Bereich von Internet Governance zugrunde liegen. Die Deklaration enthält insgesamt 16 Empfehlungen an Regierungen, zwischenstaatliche Organisationen, Technologieunternehmen, Journalisten, Medien, zivilgesellschaftliche Organisationen, Netzwerke und akademische Einrichtungen. [1]

Treffen der Ad Hoc Expert Group (AHEC), April & Juni 2021

Vom 26. – 30. April 2021 und vom 21. bis 25 Juni 2021 fanden zwei Treffen des „Intergovernmental Special Committee of Experts“ statt, die den Entwurf einer UNESCO-Empfehlung zur Ethik künstlicher Intelligenz diskutierten. Die Ausarbeitung eines solchen Instruments hatte die 40. UNESCO-Generalkonferenz im Oktober 2019 beschlossen (UNESCO-Doc 40C/37). Eine 24-köpfige „Ad Hoc Expert Group“ (AHEC) hatte daraufhin erste Entwürfe ausgearbeitet, die in mehreren Offline- und Online-Konsultationen, auch in verschiedenen UNESCO-Regionen, diskutiert wurden. Der jetzt vorliegende konsolidierte Entwurf wird nun an die UNESCO-Mitgliedstaaten zu einer finalen Kommentierung übersendet. [2] Es wird erwartet, dass die Empfehlung bei der bevorstehenden 41. UNESCO-Generalkonferenz im November 2021 in Paris verabschiedet wird.

  • Das Mandat für die AHEC sah die Ausarbeitung eines „international standard setting instrument on the ethics of artificial intelligence“ vor. Die AHEC hat sich entschieden, eine „Empfehlung“ (Recommendation) vorzuschlagen und keinen völkerrechtlichen Vertrag, wie ihn etwa der Europarat anstrebt. Eine völkerrechtlich nicht bindende Empfehlung hat nicht nur größere Chance von der UNESCO-Generalkonferenz im November 2021 verabschiedet zu werden, sie eröffnet auch größere Flexibilität bei ihrer Umsetzung und berücksichtigt unterschiedliche historische und kulturelle Gegebenheiten in den UNESCO-Staaten.
  • Der Schlussbericht über den Entwurfstext betont noch einmal die Notwendigkeit zur Ausarbeitung eines normativen Instruments, das sich speziell mit der Ethik der künstlichen Intelligenz auseinandersetzt. Das habe nicht nur mit den spezifischen Kompetenzen der UNESCO zu tun. Die Corona-Krise habe deutlich gemacht, das KI an vielen Stellen eine Hilfe sei, aber auch mit erheblichen Risiken verbunden wäre. KI-Technologien seien nie wertfrei oder neutral. Je nachdem, welche Daten den Anwendungen zugrunde liegen, könnten sie auch Diskriminierung produzieren und ethische Grundsätze verletzen. KI sei eine „distributed technology, whose practical governance spread across numerous institutions, organisations and companies“. Für „good AI-governance“ brauche man daher einen pluralistischen, multidisziplinären, multikulturellen und Multistakeholder Ansatz. [3]
  • Die von der AHEC vorgeschlagene Empfehlung enthält keine Definitionen. Trotz intensiver akademischer Debatte wurde kein Konsens zur Definition von Kategorien wie „AI Ethics“, „AI Systems“, „AI System Life Cycle“, „AI Actors“ oder „AI Technologies“ erzielt. Die Empfehlung konzentriert sich daher auf „Beschreibungen“. Dies erlaube eine dynamische Interpretation und würde auch zukünftige, heute noch nicht bekannte Entwicklungen einfangen können.
  • Die AHEC-Empfehlung basiert auf zwei Komplexen.
    • Der erste Komplex enthält zwei Sektionen zu „Werten“ und „Prinzipien“. Die in vier Abschnitten definierten Werte beziehen sich auf die menschliche Würde, Freiheit, Frieden, Umwelt, Diversität und Inklusion. Die zehn Prinzipien betreffen Proportionalität, Sicherheit, Fairness, Nachhaltigkeit, Datenschutz, Menschliche Aufsicht, Erklärbarkeit und Transparenz, Verantwortung, Bewusstsein und Multistakeholder Governance.
    • Der zweite Komplex enthält eine Reihe von Empfehlungen für insgesamt elf definierte Politikfelder:
      • 1.    POLICY AREA 1: ETHICAL IMPACT ASSESSMENT
      • 2.    POLICY AREA 2: ETHICAL GOVERNANCE AND STEWARDSHIP
      • 3.    POLICY AREA 3: DATA POLICY
      • 4.    POLICY AREA 4: DEVELOPMENT AND INTERNATIONAL COOPERATION
      • 5.    POLICY AREA 5: ENVIRONMENT AND ECOSYSTEMS
      • 6.    POLICY AREA 6: GENDER
      • 7.    POLICY AREA 7: CULTURE
      • 8.    POLICY AREA 8: EDUCATION AND RESEARCH
      • 9.    POLICY AREA 9: COMMUNICATION AND INFORMATION
      • 10.    POLICY AREA 10: ECONOMY AND LABOUR
      • 11.    POLICY AREA 11: HEALTH AND SOCIAL WELL-BEING
  • Ein Streitpunkt war, inwiefern sich die Empfehlung ausschließlich auf zivile Anwendungen konzentrieren und Diskussionen über die Entwicklung von KI-basierten Waffensystemen aussparen sollte. Die AHEC hat sich dafür entschieden, Fragen, die bei den Verhandlungen zu tödlichen autonomen Waffensystemen (LAWS) verhandelt werden, nicht in die Empfehlung aufzunehmen. Nichtsdestotrotz enthält der Entwurf der UNESCO-Empfehlung ein allgemeines Prinzip, das festlegt, dass KI-Systeme den Menschen nicht von seiner Verantwortung für sein Handeln entbindet und dass Entscheidungen über Leben und Tod nicht an Maschinen delegiert werden können.
  • Eine strittige Frage war, inwieweit das von immer mehr Staaten verfochtene Konzept einer „Daten-Souveränität“ mit dem globalen Ansatz einer UNESCO Empfehlung zur KI-Ethik verbunden werden kann. Die AHEC kam nach langen Diskussionen zu dem Schluss, dass das Konzept der Daten-Souveränität und das Konzept des freien Datenflusses (Data Sharing and Data Flow) miteinander koexistieren können, wenn man zwischen verschiedenen Komponenten der Datenverwendung und ihrer Kontrolle differenziert.[4]
  • Die Empfehlung baut auf den Richtlinien der OECD-Grundsätze für künstliche Intelligenz von 2019 auf, konzentriert sich aber auf die „ethische Dimension“. Diese Dimension liege im Kompetenzbereich der UNESCO und hier könne die UNESCO auch einen Mehrwert in die globale internationale Debatte einbringen. Die angestrebte Empfehlung könne wie ein „ethischer Kompass“ für alle Regierungen, Stakeholder und internationale Organisationen wirken.
Mehr zum Thema
Q2/2021
  1. [1] WINDHOEK +30 DECLARATION, WORLD PRESS FREEDOM DAY 2021, 29. APRIL – 3. MAI, WINDHOEK, NAMIBIA: „We therefore: Call on all governments to: 16. COMMIT to creating a positive enabling environment for freedom of expression and access to information, online and offline, in line with international guarantees of these rights, including a free, independent and pluralistic media, through adopting appropriate legal measures in a transparent manner and following adequate public consultation, guaranteeing the exercise of journalism free of governmental interference, whether formal or informal, promoting universal access to the Internet, and taking measures to reinforce the safety of journalists, including with a specific focus on women journalists; 17. TAKE effective steps to nurture a diversity of viable public, private and community media, and implement specific policies, along with relevant safeguards, to promote the production of independent, quality journalism, with the aim of ensuring people’s access to relevant, diverse and reliable information; 18. ENSURE that flows of funding from public sources to the media, including subsidies and advertising, are allocated fairly and overseen in an independent and transparent manner; and guarantee investment in journalism and jobs, while respecting gender equality and promoting decent working conditions; 19. MAINSTREAM media and information literacy into strategies and action plans in order to build the resilience of citizens to misinformation, disinformation and hate speech, and promote civic participation in democratic life; 20. ALLOCATE adequate human, financial and technical resources, including as part of development assistance support, to ensure the proper implementation of the steps and measures outlined in this Declaration. Call on UNESCO and other intergovernmental organisations to: Call on technology companies to: 21. REINFORCE cooperation with governments and civil society organisations in order to safeguard and enhance guarantees for the full exercise of the right to information and freedom of expression, both online and offline, with a particular focus on strengthening media freedom, pluralism and independence as well as media viability, transparency of digital platforms, and media and information literacy; 22. ENCOURAGE the development of joint funding instruments supported by a combination of States, multilateral institutions, private foundations and philanthropists to promote information as a public good. 23. WORK to ensure transparency in relation to their human and automated systems which could impact user interaction with content, as well as their terms and conditions of service; 24. PROVIDE robust notice and appeals opportunities to users, process complaints and redress requests from users in a fair manner, and take action whenever their terms and conditions of service are breached; 25. CONDUCT transparent human rights risk assessments, including to identify threats to freedom of expression, access to information and privacy, take appropriate action to eliminate or mitigate those threats, and disclose the impact of those actions; 26. SUPPORT information as a public good in various ways, for example through fair and inclusive partnership arrangements, which may include donations or other financial measures, and the protection of journalists who are the victims or at risk of online attacks. Call on journalists, media outlets, civil society and academia to: Call to collective action: 27. ADVOCATE with States and digital platforms, as part of their wider protection of freedom of expression and information as a public good, to recognise media viability as a development priority; 28. UNDERTAKE monitoring, advocacy, research, policy development, awareness raising, including among official actors, and the provision of expertise and support to address problems caused by measures taken by governments and digital platforms, including due to their lack of transparency, and to increase their engagement in media and information literacy actions; 29. PROMOTE a more inclusive, pluralistic and sustainable media sector, including through measures that promote the involvement of young people, women and marginalised groups in the media. 30. WORK TOGETHER to ensure the effective realisation of the steps and measures outlined in this Declaration; 31. AGREE AND ADOPT new and innovative measures and mechanisms, including of a multilateral and multi-stakeholder nature, following broad consultative processes, to ensure respect by States for freedom of expression and access to information, and that digital platforms’ practices and systems which affect user interaction with information are appropriately transparent; 32. COLLABORATE through multilateral fora to promote respect by governments, intergovernmental organisations and digital platforms for human rights, including freedom of expression, access to information and the safety of journalists.“ In: https://en.unesco.org/news/windhoek30-declaration-information-public-good
  2. [2] Draft text of the Recommendation on the Ethics of Artificial Intelligence, 30. April 2021, In: https://unesdoc.unesco.org/ark:/48223/pf0000376713
  3. [3] FINAL REPORT ON THE DRAFT TEXT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE, 30. April 2021: Paragraph 1: Artificial intelligence (AI) is one of the central issues of the era of converging technologies with profound implications for humanity, cultures, societies and the environment. The impact of the technology will depend on the way humanity frames it and masters it, and on the way it prioritizes the goal of leaving no one behind. The COVID-19 pandemic has exemplified how AI technologies can help, but it has also shown the risks, the unintended consequences, and the malicious use of AI. Paragraph 2: This is why the research, development and deployment of AI need to be accompanied by an ethical reflection. AI technologies are not value neutral, but biased, among others, due to the data on which they are trained, and the choices made while training on the data. It is also influenced by the fact that AI decisions, particularly those based on machine learning, cannot be fully predictable or understood. Moreover, as AI is a distributed technology, whose current practical governance is spread across numerous institutions, organizations and companies, the reflection on its good governance requires a pluralistic, multidisciplinary, multicultural and multi-stakeholder approach, opening up questions about what type of future we want for humanity. This reflection needs to address the main challenges in the development and use of AI technologies related to the biases embedded in data and algorithms, the protection of people’s privacy and personal data, the lack of diversity and inclusion in the digital business model, the issues of fair distribution of benefits and risks, accountability, responsibility, impacts on employment and the future of work, human rights, security and risks of dual use.“ In: https://unesdoc.unesco.org/ark:/48223/pf0000376712
  4. [4] FINAL REPORT ON THE DRAFT TEXT OF THE RECOMMENDATION ON THE ETHICS OF ARTIFICIAL INTELLIGENCE, 30. April 2021: „Paragraph 33: First, the goal of data sovereignty is to protect individuals and enhance their ability to stay in control of their personal data. Second, as reiterated by the AHEG, the concept of data sovereignty aims to protect states from potential abuse that might occur from processing the data of their citizens elsewhere, which could also endanger national security. By upholding this concept, the aim is to encourage Member States, in collaboration with other stakeholders, to establish the infrastructure needed, including data centres for processing the data of their citizens in accordance with national laws. It should be highlighted that the concept of data sovereignty does not infringe upon data sharing and data flows. Different frameworks for enabling control over data as well as sharing mechanisms have begun to emerge, and at their essence is the ability to separate between different components of data and have full control over what is being shared and for what purposes.“ In: https://unesdoc.unesco.org/ark:/48223/pf0000376712