08.07.2021
EU-Kommission legt Gesetzentwurf über künstliche Intelligenz vor
Künstliche Intelligenz (KI) ist aus dem Alltag nicht mehr wegzudenken. Die EU-Kommission unternimmt nun den Versuch, die Rahmenbedingungen für KI-Anwendungen festzulegen. Europa soll zum globalen Zentrum für vertrauenswürdige künstliche Intelligenz gemacht werden, so die Ambitionen der EU-Kommission. Zu diesem Zweck hat sie einen entsprechenden Verordnungsentwurf für KI veröffentlicht.
Der Entwurf basiert auf einem gefahrenbasierten Ansatz. Je höher die möglichen Gefahren sind, desto höher sollen auch die Anforderungen an das KI-System sein. Vorgesehen sind vier Klassen: Anwendungen mit einem unannehmbaren Risiko, Hochrisikoanwendungen, Anwendungen mit geringem und mit minimalem Risiko.
KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (zum Beispiel Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen.
Als Hochrisikoanwendungen gelten KI-Systeme, die sich nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte auswirken. Dem Vorschlag beigefügt ist eine Liste der KI-Systeme mit hohem Risiko, die ergänzt werden kann. So gelten zum Beispiel KI-Systeme als Hochrisikoanwendungen, die bestimmungsgemäß für die Entsendung oder Priorisierung des Einsatzes von Not- und Rettungsdiensten, einschließlich Feuerwehr und medizinischer Nothilfe, verwendet werden sollen. Insgesamt werden KI-Systeme in gefahrgeneigten Bereichen wie Straßenverkehr, Luftfahrt und Medizin sowie KI-Anwendungen in gesellschaftlich relevanten Bereichen wie Personenerkennung, kritische Infrastruktur, Bildung, Recruitment, Daseinsvorsorge, Kreditwürdigkeit, Migration, Strafverfolgung und Justiz erfasst. Für alle KI-Systeme mit hohem Risiko werden verbindliche Anforderungen vorgeschlagen.
Verbindliche Anforderungen für KI-Systeme
Diese Anforderungen betreffen die Qualität der verwendeten Datensätze, die technische Dokumentation und das Führen von Aufzeichnungen genauso wie die Transparenz und die Bereitstellung von Informationen für die Nutzer. Bei Verstößen werden die nationalen Behörden aufgrund dieser Anforderungen Zugang zu den Informationen erhalten, die nötig sind, um festzustellen, ob der Einsatz des KI-Systems rechtmäßig erfolgt ist.
Die Mitgliedstaaten müssen Behörden einrichten, die für die Durchführung der Verfahren zur Konformitätsprüfung und die Überwachung der Anwendungen zuständig sind.
Bei KI-Systemen mit einem geringen Risiko werden besondere Transparenzverpflichtungen auferlegt, etwa wenn eine klare Manipulationsgefahr besteht (zum Beispiel durch den Einsatz von Chatbots). Den Nutzern sollte bewusst sein, dass sie es mit einer Maschine zu tun haben.
Alle anderen KI-Systeme können unter Einhaltung des allgemein geltenden Rechts entwickelt und verwendet werden, das heißt ohne Beachtung zusätzlicher rechtlicher Verpflichtungen (minimales Risiko). Die große Mehrheit der KI-Systeme, die derzeit in der EU verwendet werden, fällt in diese Kategorie. Anbieter solcher Systeme können freiwillig die Anforderungen an vertrauenswürdige KI anwenden und freiwillige Verhaltenskodizes einhalten.
Der Entwurf der KI-Verordnung unter:
Der Annex mit der Liste der Hochrisikoanwendungen unter:
Der Entwurf sieht schließlich vor, einen Europäischen Ausschuss für künstliche Intelligenz einzurichten, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll. Darüber hinaus werden freiwillige Verhaltenskodizes für KI-Anwendungen, die kein hohes Risiko darstellen, vorgeschlagen.
Die Entwürfe werden nun im Rahmen des EU-Gesetzgebungsverfahrens im Europäischen Parlament und dem Rat diskutiert.
Corina Glorius