Q2/2021 - Europäische Union, Brüssel, April – Juni 2021

Regulierungspaket zur künstlichen Intelligenz, 21. April 2021

Am 21. April 2021 präsentierte die EU-Kommission ihre Pläne für die Regulierung künstlicher Intelligenz. Die EU-Kommission wählt für ihren Regulierungsvorschlag einen sogenannten „risikobasierten Ansatz“. Insbesondere alle Arten biometrischer Fernidentifizierungssysteme bergen ein hohes Risiko und unterliegen strengen Anforderungen. Ihre Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken wird grundsätzlich verboten. Eng abgesteckte Ausnahmen werden strikt definiert und geregelt (z. B. wenn sie unbedingt erforderlich sind, um ein vermisstes Kind zu suchen, um eine konkrete und unmittelbare terroristische Bedrohung abzuwenden oder um Täter bzw. Verdächtige schwerer Straftaten zu erkennen, aufzuspüren, zu identifizieren oder zu verfolgen). Eine solche Nutzung bedarf der Genehmigung einer Justizbehörde oder einer anderen unabhängigen Stelle und unterliegt angemessenen Beschränkungen in Bezug auf die zeitliche und geografische Geltung und die abgefragten Datenbanken. Der Regulierungsvorschlag unterscheidet zwischen vier Risikokategorien:

  • Unannehmbares Risiko: KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen.
  • Hohes Risiko: Für KI-Systeme mit hohem Risiko werden strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen. Gefordert werden: Angemessene Risikobewertungs- und Risikominderungssysteme; hohe Qualität der Datensätze , die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten; Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen ; ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seine Zweck, damit die Behörden seine Konformität beurteilen können; klare und angemessene Informationen für die Nutzer; angemessene menschliche Aufsicht zur Minimierung der Risiken; und ein hohes Maß an Robustheit, Sicherheit und Genauigkeit. Das betrifft vor allem die folgenden Bereiche:
    • kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten;
    • Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen);  
    • Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie);
    • Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren);
    • wichtige private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern die Möglichkeit verwehrt wird, ein Darlehen zu erhalten);
    • Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Bewertung der Verlässlichkeit von Beweismitteln);
    • Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten);
    • Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte).
  • Geringes Risiko: Das betrifft KI-Systeme, für die besondere Transparenzverpflichtungen gelten. Beim Umgang mit KI-Systemen wie Chatbots sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben, damit sie in voller Kenntnis der Sachlage entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht.
  • Minimales Risiko: Der Legislativvorschlag soll die freie Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern ermöglichen. Die große Mehrheit der KI-Systeme fällt in diese Kategorie. Der Verordnungsentwurf soll hier nicht eingreifen, denn diese KI-Systeme stellen nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit dar.

Bezüglich der KI-Governance schlägt die Kommission vor, dass die Anwendung der neuen Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden soll. Ferner wird ein Europäischer Ausschuss für künstliche Intelligenz eingerichtet werden, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll. Darüber hinaus werden freiwillige Verhaltenskodizes für KI-Anwendungen, die kein hohes Risiko darstellen, und regulatorische „Sandkästen“ vorgeschlagen, um verantwortungsvolle Innovationen zu erleichtern. [1]

Digital Assembly 2021: Leading Europe's Digital Decade, 1. und 2. Juni 2021

Am 1. und 2. Juni 2021 fand die jährliche „Digital Assembly“ der EU-Kommission statt. Die hybride Tagung war der Umsetzung der im März 2021 beschlossenen „Europäischen Digitalen Dekade“ gewidmet. Bei der zweitätigen Konferenz wurden alle Aspekte der europäischen Digitalisierungsstrategie – von Cybersicherheit über Datenschutz bis zur künstlichen Intelligenz – diskutiert. Das mit 7.5 Milliarden € ausgestattete „Digital Europe Program“ soll die „digitale Souveränität“ Europas stärken, die EU zu einem „big player“ in der globalen Digitalwirtschaft machen und das sogenannte Zwillingsziel der EU – Green Transition and Digital Transformation – mit Leben erfüllen. Der im März 2021 verabschiedete „Digitale Kompass“ soll Orientierungshilfe für große wie klein- und mittelständige Unternehmen sowie für alle EU-Regierungen geben. Die EU-Kommission will zu diesem „Digitalen Kompass“ im Sommer 2021 eine breite Multistakeholder-Diskussion starten. Die Ergebnisse dieser Diskussion sollen bis zum Jahresende in eine „Inter-institutionelle Deklaration über digitale Rechte und Prinzipien für die digitale Dekade“ einfließen.

  • Die Präsidentin der europäischen Kommission Ursula von der Leyen hob in ihrer Rede vier Punkte für die Implementierung der europäischen Digitalen Dekade hervor: Digitale Fähigkeiten jedes einzelnen EU-Bürgers, Entwicklung einer hochleistungsfähigen Infrastruktur, Mobilisierung der digitalen Wirtschaft und Digitalisierung der Verwaltung. [2]
  • In seiner Grußadresse an die „Digital Assembly“ verwies UN-Generalsekretär António Guterres darauf, dass einerseits die Digitalisierung zahlreiche Probleme der Covid-19-Pandemie abgefedert hätte, dass andererseits aber die 3.5 Milliarden Menschen, die noch offline sind, nun in doppelter Weise von der Katastrophe betroffen waren. Er forderte mehr Anstrengungen zur Überwindung der digitalen Spaltung, verwies auf seine „Roadmap for Digital Cooperation“ und bot erneut die UN als eine Plattform für eine Multistakeholder Diskussion zur Zukunft der digitalen Welt an.[3]

Bildung einer „Joint Cyber Unit“, JCU, 23. Juni 2021

Am 23. Juni 2021 verkündete die EU-Kommission die Bildung einer „Joint Cyber Unit“ (JCU). Die JCU soll als Plattform helfen, bei groß angelegten Cyberangriffen auf europäische Institutionen und Unternehmen koordiniert reagieren zu können. Über die Plattform sollen Informationen über Bedrohungslagen, Erfahrungen bei bisherigen Cyberangriffen und Warnmeldungen ausgetauscht werden. Die JCU soll einen „EU Cybersecurity Incident and Crisis Response Plan“ entwickeln, der auf den nationalen Erfahrungen der EU-Mitgliedsstaaten basiert. Ausgearbeitet werden sollen Protokolle für schnelle Reaktionen und gegenseitige Hilfe bei entsprechenden Angriffen. Der Aufbau der JCU wird in vier Stufen erfolgen. Bis zum 30. Juni 2022 soll die operative Phase abgeschlossen sein. Bis zum 30. Juni 2023 soll die JCU voll arbeitsfähig sein. Die europäische Agentur für Cybersicherheit ENISA fungiert als Sekretariat für die JCU. JCU wird eng mit dem Brüsseler Büro von CERT-EU, dem EU-Computer Emergency Response Team, kooperieren. Sie ist eingebettet in andere Cybersicherheitsaktivitäten der EU wie der neuen Cybersicherheitsdirektive NIS-2, der EU-5G Toolbox, der Entwicklung eines Cybersicherheits-Zertifikationsverfahren für Hard- und Software, der Überprüfung des EU-Cyber Defence Policy Framework und dem „Program of Action“ (PoA), das die EU in die UN-Verhandlungen zur Cybersicherheit in der Open Ended Working Group (OEWG) eingebracht hat. [4] EU-Vizepräsident Margaritis Schinas sagte bei der Vorstellung des JCU-Plans, dass Cybersicherheit nicht mehr als ein isoliertes Problem betrachtet werden könne, welches man „linear“ bewältigen könne. Man brauche eine komplexe Herangehensweise. Cybersicherheit sei heute unmittelbar mit nationaler Sicherheit verbunden. [5]

Mehr zum Thema
Q2/2021
  1. [1] https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence
  2. [2] President von der Leyen's speech at the high-level opening session of the 2021 Digital Assembly, “Leading the Digital Decade”, 1. Juni 2021: „When you navigate, you do not only need a compass. You also need a vision. And you need a plan forward. Our Digital Compass is about all that. Like a compass with North, South, East and West, our European strategy has four cardinal points: Digital skills, Infrastructures, Businesses, and e-Government. To master the challenges of the digital age we must make progress on all four fronts. First, skills: By 2030, we want, for example, 20 million IT specialists to be employed in the EU. Second, infrastructures: By 2030, we want gigabit connectivity for all households, and 5G in all cities and villages. Third, the digital transformation of businesses: By 2030, three out of four companies should use cloud, big data and AI. And fourth: digital public services. By 2030, all EU citizens should have access to electronic health records.“ In: https://ec.europa.eu/commission/presscorner/detail/en/SPEECH_21_2804
  3. [3] Antonio Guterres, Secretary-General's video message for the Digital Assembly High-Level Ministerial Conference, 1-2 June 2021: „Even as societies shut down, those with reliable access to the Internet could still work and learn. But this was not the case for the 3.7 billion people who remain offline, most of whom are women and girls in developing countries. Nearly one-third of the world’s children have missed out on education because they do not have access to remote schooling; and this is far from over. Recovery from the pandemic must include urgent action to close a digital divide that is fast becoming the new face of inequality. We will only achieve the Sustainable Development Goals if we harness the potential of digital technologies to enable and empower everyone, everywhere. But even as we strive to bring billions online, we must confront new challenges in keeping people safe and secure. Cyberattacks are increasing and the online space has the potential to become a new battleground among global powers. Big tech companies exercise extraordinary control over issues that profoundly affect peoples’ lives. Artificial Intelligence and other technologies can improve public health, agriculture and humanitarian operations, but they can also enable harassment, surveillance and human rights violations, and accelerate the spread of misinformation and hate speech. I am convinced that our digital future requires greater global guidance, not less. At this time of growing online fragmentation, people want a responsible and thoughtful approach to digital governance; one that accelerates innovation and growth; protects users and the environment; and builds trust and solidarity between peoples. Increasingly, they are looking to the United Nations to help achieve this. We are fully committed to working with all stakeholders to forge new areas of understanding and common purpose, as set out in my Roadmap for Digital Cooperation.“ In: https://www.un.org/sg/en/content/sg/statement/2021-06-01/secretary-generals-video-message-for-the-digital-assembly-high-level-ministerial-conference-1-2-june-2021
  4. [4] EU Cybersecurity: Commission proposes a Joint Cyber Unit to step up response to large-scale security incidents, in: https://ec.europa.eu/commission/presscorner/detail/en/ip_21_3088
  5. [5] Remarks by Vice-President Schinas at the press conference on the Recommendation on building a Joint Cyber Unit, 23. Juni 2021: „There was a time when security was seen as something linear, something simple. This is no longer the case. The threat picture continues to evolve and grow exponentially, and the new big threats are the threats to our cybersecurity. In this Commission, working very closely with Margrethe Vestager and Thierry Breton, we decided to take cybersecurity out of the tech silo. This is not only an industrial consideration anymore, it is an issue of national security. Cybercrime threatens our values, our way of life, our society, our principles, and this is why we need to tackle it together. Together as Europeans, but together with other like-minded partners in the world.“ In: https://ec.europa.eu/commission/presscorner/detail/en/speech_21_3172