Die für Medien und die Informationsgesellschaft zuständigen Minister des Europarates trafen sich zu ihrer jährlichen Sitzung am 10. und 11. Juni 2021 in Zypern. Das Thema der Konferenz war „Artificial Intelligence and Intelligent Politics: Challenges and Opportunities for Media and Democracy“. In einer Schlusserklärung äußern sich die Minister in 15 Punkten zu den Herausforderungen, die für die Politik durch die Entwicklung künstlicher Intelligenz entstehen. Dazu wurden zwei weitere für Internet Governance relevante Dokumente verabschiedet: Eine Resolution zu Meinungsäußerungsfreiheit und digitalen Technologien und eine Resolution zu einer sich wandelnden Medien- und Informationsumwelt.

• In der „Final Declaration“ unterstreichen die Minister, dass Artikel 10 der Europäischen Menschenrechtskonvention von 1950 auch für die digitale Welt und für KI-basierte Anwendungen im Bereich von Medien, Information und Kommunikation gilt. Sie stellen fest, dass Entwicklungen der letzten Jahre in der digitalen Welt die Nachhaltigkeit des existierenden Medienmarktes immer mehr infrage stellt und Aktionen notwendig sind, um eine informationelle Umwelt zu erhalten und zu gestalten, die dem grundlegenden Menschenrecht auf freie Information und Kommunikation gerecht wird. Die Minister warnen vor einer Fragmentierung der medialen Öffentlichkeit und vor Praktiken der Profilierung von Medienkonsumenten zum Zwecke der zielgerichteten Werbung oder der politischen Beeinflussung. Als ein besonderes Problem sehen die Minister, dass die sogenannten „Intermediären Medien“, d.h. sozialen Netzwerke und digitale Plattformen, nicht an die ethischen Regeln des herkömmlichen Journalismus gebunden sind und im Grunde keinem Rechenschaftsmechanismus oder einer anderen Aufsicht unterworfen sind. Die Minister fordern daher, dass das Problem einer mangelnden Verantwortung von digitalen Medien auf höchster politischer Ebene besprochen werden sollte. Es müssten alle regulatorischen Möglichkeiten geprüft werden, um Mechanismen zu schaffen, die Information als ein öffentliches Gut schützen. Notwendig sei auch die allgemeine Medienerziehung in der Bevölkerung zu verbessern und Journalisten, die zunehmenden Angriffen in der Öffentlichkeit ausgesetzt sind, zu schützen. ^[1]
• In der „Resolution on the Changing Media and Information Environment“ verweisen die Minister nicht nur auf den fundamentalen gesellschaftlichen Wandel, den der Übergang von einer analogen zu einer digitalen Medienwelt mit sich gebracht hat, sie konstatieren auch, dass das ursprüngliche Demokratieversprechen, das mit der Entwicklung des Internet einherging, sich so nicht erfüllt hätte. Einerseits gäbe es neue Gefahren für grundlegende Freiheiten und Menschenrechte durch neue Medien, andererseits würde das existierende Mediensystem, dass ein Garant für solche Freiheiten war, erodieren. „People increasingly rely on news and information from online sources, some of which lack professional standards and ethics, as well as accountability mechanisms that as a rule characterise the mainstream media“. Kritisch sehen die Minister die negativen Begleiterscheinungen der „Click-Based-Economy“ und beklagen eine wachsenden „Media Ownership Concentration“. Sie unterstreichen die besondere Rolle von öffentlich-rechtlichen und nicht-kommerziellen Medien. Online-Medien würden in wachsendem Maße zur allgemeinen Desinformation und Konfusion beitragen, was negative Auswirkungen nicht nur auf die Menschenrechte hätte, sondern Gesellschaften spalte, indem es fragmentierte Wirklichkeiten schaffe, die zu einer politischen Polarisierung beitragen, deren mittel- und langfristigen Konsequenzen noch nicht überschaubar sind und die zu einer erheblichen Gefahr für die Demokratie werden können. Gestärkt werden müssten öffentliche Mechanismen zur „moderation and curation of content, fact-checking and credibility signalling“. ^[2]
• In der „Resolution on Freedom of Expression and Digital Technologie“ unterstreichen die Minister die grundlegende Bedeutung von Artikel 10 der Europäischen Menschenrechtskonvention zur Meinungsäußerungsfreiheit für die digitale Welt. „The right to form, hold and express an opinion without undue interference, along with its corollaries of freedom of information and media freedom, is crucial for the fulfillment and protection of all other human rights. It enables citizens to make informed choices, to participate actively in democratic processes, and to help ensure that powerful interests are held to account. Empirical research points persistently to a strong correlation between the levels of media freedom and the overall resilience of a democracy. Media freedom, therefore, is essential in any democracy, and for economic prosperity, and is part of our collective global human rights agenda.“ Die Minister warnen davor, dass künstliche Intelligenz und digitale Technologien missbraucht werden könnten, um die Meinungsäußerungsfreiheit zu unterminieren. Das Blocken, Filtern, Löschen von illegalen und schädlichen Inhalten müsse immer gebunden sein an die Kriterien der Rechtmäßigkeit und Proportionalität und dürfe nicht automatisierten Prozessen übertragen werden, die keinerlei menschlichen Aufsicht unterstellt wären. Es gäbe eine wachsende Diskrepanz zwischen der Menge an verfügbarer Information und der Fähigkeit des Einzelnen, aus diesen Informationen sich ein der Wirklichkeit entsprechendes Bild von der Gesellschaft zu machen. Es wachse die Gefahr einer neuen Form der digitalen Spaltung. Bei dieser Spaltung gehe es nicht mehr nur um den Zugang zu digitalen Medien, sondern um die Fähigkeit des Einzelnen, mit diesen Medien aufgeklärt und verantwortungsbewusst umzugehen. Strittige Fälle im Zusammenhang mit Löschen von Informationsinhalten müssten von unabhängigen Gerichten entschieden werden. Die Minister verweisen auf das umfangreiche „Case Law“, dass im Zusammenhang mit zahlreichen Fällen zu Artikel 10 der Europäischen Menschenrechtskonvention (EMRK) in den letzten Jahren am Europäischen Menschengerichtshof entstanden ist. Die Minister fordern den Europarat und hier insbesondere das „Steering Committee on Media and Information Society“ sowie das „Ad Hoc Committee on Artificial Intelligence“ auf, konkrete Vorschläge zu erarbeiten, wie man diesen Herausforderungen einer sich verändernden digitalen Welt begegnen kann, um Menschenrechte, Demokratie und Rechtsstaatlichkeit zu stärken. ^[3]

Die CAHAI-Legal Framework Group (CAHAI-LFG) hatte unter dem Vorsitz ihrer beiden Co-Chairs Peggy Valcke (Belgien) und Riccardo Villa (Italien) ihre 3. Sitzung am 31. Mai und 1. Juni 2021. Diskutiert wurde ein Skeleton für ein zukünftiges Rechtsinstruments des Europarates zur künstlichen Intelligenz und ihre Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Grundlage für ein solches Instrument sei, dass es auf etablierten Prinzipien basieren müsse, die in zahlreichen Dokumenten, die der Europarat seit der Menschenrechtskonvention von 1950 verabschiedet hat, verankert seien. ^[4]

• Die Gruppe verwies bei der Frage, ob das anvisierte Rechtsinstrument eine rechtlich bindende Konvention oder eine unverbindliche Empfehlung sein sollte, auf die politische Natur des Problems. Eine endgültige Entscheidung könne nur das dafür zuständige Ministerkomitee des Europarates fällen.
• Die Gruppe schlug einen „Risk Based Approach“ vor. ^[5] Damit orientiert sie sich an dem Vorschlag der Europäischen Kommission und ihrem im April 2021 vorgeschlagenen KI-Regulierungspaket. Berücksichtigt werden müssten Kontext und die konkrete Natur der jeweiligen KI-Anwendung, die Qualität und der Typ der verwendeten Daten, sowie andere relevante, bereits existierende Rechtsinstrumente. Vorgeschlagen wurde eine Klassifizierung von Risiken, zumindest eine Unterscheidung zwischen „High Risk“ und „Low Risk“.
• Die Gruppe verwies darauf, dass viele KI-Anwendungen für mehrere Zwecke genutzt werden könnten (z.B. zivil und militärisch) und daher unter die „Dual Use“-Problematik fielen. Der Europarat sei für jene KI-Anwendungen, die für militärische Zwecke genutzt werden, nicht zuständig. Entsprechende Regelungen sollten daher nicht in ein entsprechendes Rechtsinstrument des Europarates aufgenommen werden. Nichtsdestotrotz sollte dieser Aspekt von den Mitgliedsstaaten diskutiert werden.
• Bei der Frage, ob es Regelungen für KI-basierte Forschung geben sollte, verwies die Gruppe auf Erfahrungen, die mit der „Ovieda Convention on Human Rights and Biomedicine“ gemacht wurden. Dort wurde vereinbart, bei der Vergabe von Forschungsaufträgen eine sogenannte „Ethics Review“ durch ein „Specialised Ethics Committee“ durchzuführen. Dieses Verfahren könnte als Blaupause für ein Modell zur Evaluierung von kritischer KI-Forschung genutzt werden. Vorgeschlagen wurden auch „regulatorische Sandkastenspiele“ und „öffentliche Debatten“. Abgelehnt wurde Entwickler und Anwender bei Fehlern und Missbrauch strafrechtlich zur Verantwortung zu ziehen. Inwiefern im Schadensfall jedoch zivilrechtliche Ansprüche gelten gemacht werden könnten und inwiefern ein solcher Absatz in ein Rechtsinstrument des Europarates eingearbeitet werden sollte, ließ die Gruppe zunächst offen.

Das CAHAI-Komitee für Konsultationen und Outreach (CAHAI-COG) hatte unter Vorsitz des slowenischen Diplomaten Gregor Strojin, CAHAI-Chair, seine 3. Sitzung am 22. und 23. Juni 2021. Andrey Neznamov, Co-Chair der CAHAI-COG, präsentierte die Ergebnisse der Multistakeholder-Konsultationen zu dem im Januar 2021 vorgelegten Fragebogen. Insgesamt 260 Antworten von allen Stakeholdergruppen, darunter 49 Regierungen, hätten ein gutes Stimmungsbild ergeben. CAHAI sei nun in die Lage versetzt, die Arbeiten an einem Rechtsinstrument zur künstlichen Intelligenz beschleunigt fortzusetzen.

• Ein offener Punkt bleibt die Definitionsfrage. Es gibt keine universell akzeptierte Definition, was unter „künstlicher Intelligenz“ zu verstehen ist. Betont wurde, dass jedwede Definition „technologisch neutral“ sein und universell anwendbar sein müsse. Weiter geprüft werden soll, ob der Europarat Definitionen von anderen Organisationen wie der OECD, der UNESCO oder der Europäischen Union übernehmen sollte.
• Der inhaltlich strittigste Punkt war der Umgang mit dem Thema Gesichtserkennung und „Social Scoring“. Eine große Mehrheit befürwortet strenge Aufsichtsmaßnahmen und Auflagen, insbesondere für „Facial Recognition“. Bei der Frage, ob digitale Gesichtserkennung in öffentlichen Räumen komplett verboten werden sollte, schieden sich jedoch die Geister. Einig war man sich, dass sowohl Gesichtserkennung als auch „Social Scoring“ erhebliches Gefährdungspotential für den Einzelnen habe. Der Missbrauch einer digitalen Massenüberwachung hat tiefgreifende Konsequenzen für individuelle Freiheiten und demokratische Grundrechte, wie sie in der Europäischen Menschenrechtskonvention von 1950 verankert sind. Der Schutz der menschlichen Würde sei ein für den Europarat unverhandelbares und überragendes rechtliches Prinzip, das sich auch in einem Rechtsinstrument des Europarates zur künstlichen Intelligenz wiederfinden müsse.
• Eine Mehrheit zeichnet sich hingegen ab bei der Frage, ob der Europarat ein verbindliches Rechtsinstrument in Form einer zu ratifizierenden Konvention ausarbeiten oder sich mit einer rechtlich nicht bindenden Empfehlung begnügen sollte. Die Mehrheit bevorzugt ein verbindliches Rechtsinstrument. Diskutiert wurde auch, welche Bindungsfolgen dies für nicht-staatliche Akteure hätte. In den Konsultationen wurde von vielen Stakeholdern betont, dass private Entwickler und Anwender ebenfalls Verpflichtungen hätten und demonstrieren müssten, dass ihre Produkte und Dienstleistungen keine negativen Konsequenzen für Individuen haben.
• Begrüßt wurde die Teilnahme eines Vertreters der DG Connect der Europäischen Kommission. Die EU-Kommission hatte am 21. April 2021 ihr Regulierungspaket zur künstlichen Intelligenz vorgelegt. Zwischen beiden Initiativen gäbe es keine großen Unterschiede. Beiden seien von dem gleichen Geist getrieben und ergänzten sich. Im September 2021 soll unter der slowenischen EU-Präsidentschaft die Website www.globapolicy.ai freigeschaltet werden. Damit gäbe es eine weitere Plattform zum Informationsaustausch und zur inter-institutionellen Diskussion, auch mit internationalen Organisationen wie der OECD und der UNESCO.
• Die nächste CAHAI-Plenarsitzung ist für Anfang Juli 2021 geplant. Im Herbst 2021 wird es weitere Arbeitsgruppensitzungen geben. Im Oktober 2021 ist unter der ungarischen Europaratspräsidentschaft eine Multistakeholder-Konferenz zur künstlichen Intelligenz in Budapest geplant. Auf dem 17. Internet Governance Forum in Kattowitz (Dezember 2021) will der Europarat die dann vorliegenden Entwürfe für ein Rechtsinstrument in einer breiten Öffentlichkeit diskutierten. Erwartet wird, dass eine anvisierte Europarats-Konvention zur künstlichen Intelligenz im Jahr 2022 zur Unterschrift aufgelegt werden kann. ^[6]