Das EU-KI-Gesetz: Was Sie wissen müssen

Es ist fast ein Jahr her, seit die Europäische Kommission den Entwurf für einen der wohl einflussreichsten Rechtsrahmen der Welt vorgestellt hat: den EU-KI-Gesetz. Laut der Mozilla Foundation befindet sich das Framework noch in Arbeit, und jetzt ist es an der Zeit, sich aktiv an der Gestaltung seiner Richtung zu beteiligen.

Die erklärte Mission der Mozilla Foundation ist es sicherzustellen, dass das Internet eine öffentliche Ressource bleibt, die offen und für alle zugänglich ist. Seit 2019 konzentriert die Mozilla Foundation einen erheblichen Teil ihrer Programme zum Aufbau von Internet-Gesundheitsbewegungen auf KI.

Wir haben uns mit Mark Surman, Executive Director der Mozilla Foundation, und Maximilian Gahntz, Senior Policy Researcher, getroffen, um Mozillas Fokus und Haltung zu KI, wichtige Fakten zum EU-KI-Gesetz und wie es in der Praxis funktionieren wird, sowie Mozillas Empfehlungen zur Verbesserung und Möglichkeiten zu besprechen für alle, die in den Prozess involviert sind.

Das EU-KI-Gesetz ist auf dem Weg, und es ist eine große Sache, auch wenn Sie nicht in der EU ansässig sind

2019, Mozilla identifizierte KI als neue Herausforderung für die Gesundheit des Internets. Der Grund dafür ist, dass KI Entscheidungen für uns und über uns trifft, aber nicht immer mit uns: Sie kann uns sagen, welche Nachrichten wir lesen, welche Werbung wir sehen oder ob wir uns für einen Kredit qualifizieren.

Die Entscheidungen, die die KI trifft, haben das Potenzial, der Menschheit zu helfen, uns aber auch zu schaden, Mozilla-Bewertungen. KI kann historische Voreingenommenheit und Diskriminierung verstärken, das Engagement über das Wohlergehen der Benutzer stellen, die Macht von Big Tech weiter festigen und Einzelpersonen an den Rand drängen.

„Zuverlässige KI war in den letzten Jahren für uns von entscheidender Bedeutung, da Daten und maschinelles Lernen und das, was wir heute KI nennen, ein so zentrales technisches und soziales Geschäftsgefüge für das sind, was das Internet ist und wie sich das Internet mit der Gesellschaft und allem überschneidet unser Leben”, bemerkte Surman.

Da KI unser Leben zunehmend durchdringt, stimmt Mozilla der EU zu, dass eine Änderung der Normen und Regeln für KI erforderlich ist, schreibt Gahntz in Mozillas Reaktion auf das EU AI Act.

Als Erstes ist zum EU-KI-Gesetz anzumerken, dass es nicht ausschließlich für in der EU ansässige Organisationen oder Bürger gilt. Die Welligkeit kann auf der ganzen Welt in ähnlicher Weise zu spüren sein welche Wirkung die DSGVO hatte.

Das EU-KI-Gesetz gilt für innerhalb der EU ansässige Nutzer und Anbieter von KI-Systemen, außerhalb der EU niedergelassene Anbieter, die Quelle für das Inverkehrbringen oder die Inbetriebnahme eines KI-Systems innerhalb der EU sind, sowie für Anbieter und Nutzer von KI-Systemen mit Sitz außerhalb der EU, wenn die vom System generierten Ergebnisse in der EU verwendet werden.

Das bedeutet, dass Organisationen, die KI-Systeme entwickeln und einsetzen, entweder das EU-KI-Gesetz einhalten oder sich vollständig aus der EU zurückziehen müssen. Allerdings unterscheidet sich das EU-KI-Gesetz in einigen Punkten davon DSGVO – aber dazu später mehr.

Vorschriften.jpg

Wie alle Vorschriften bewegt sich auch das EU-KI-Gesetz auf einem schmalen Grat zwischen den Bedürfnissen von Unternehmen und Forschung und den Anliegen der Bürger

Von ra2 Studio – Shutterstock

Ein weiterer wichtiger Punkt des EU-KI-Gesetzes ist, dass es noch in Arbeit ist und es noch eine Weile dauern wird, bis es in Kraft tritt. Sein Lebenszyklus begann mit der Bildung einer hochrangigen Expertengruppe, die, wie Surman feststellte, mit Mozillas Fokus auf vertrauenswürdige KI zusammenfiel. Mozilla beobachtet den EU AI Act seit 2019 genau.

Wie Gahntz feststellte, haben sich seit der Veröffentlichung des ersten Entwurfs des EU-KI-Gesetzes im April 2021 alle an diesem Prozess Beteiligten darauf vorbereitet, sich zu engagieren. Das EU-Parlament musste entscheiden, welche Ausschüsse und welche Personen in diesen Ausschüssen daran arbeiten würden, und Organisationen der Zivilgesellschaft hatten die Möglichkeit, den Text zu lesen und ihre Position zu entwickeln.

An dem Punkt, an dem wir uns gerade befinden, beginnt der aufregende Teil, wie Gahntz es ausdrückte. Zu diesem Zeitpunkt entwickelt das EU-Parlament seine Position und berücksichtigt Beiträge, die es von bestimmten Ausschüssen sowie von Dritten erhält. Sobald das Europäische Parlament konsolidiert hat, was es unter dem Begriff vertrauenswürdige KI versteht, wird es seine Ideen zur Änderung des ursprünglichen Entwurfs vorlegen.

Die EU-Mitgliedstaaten werden das Gleiche tun, und dann kommt es zu einer letzten Verhandlungsrunde zwischen Parlament, Kommission und den Mitgliedstaaten, und dann wird das EU-KI-Gesetz verabschiedet. Es ist ein langer und kurvenreicher Weg, und laut Gahntz rechnen wir mit einem Horizont von mindestens einem Jahr plus einer Übergangszeit zwischen dem Inkrafttreten des Gesetzes und dem tatsächlichen Inkrafttreten.

Für die DSGVO betrug die Übergangsfrist zwei Jahre. Es wird also voraussichtlich nicht vor 2025 dauern, bis das EU-KI-Gesetz in Kraft tritt.

KI-Systeme definieren und kategorisieren

Bevor wir auf die Einzelheiten des EU-KI-Gesetzes eingehen, sollten wir innehalten und fragen, wofür es genau gilt. Es gibt keine allgemein anerkannte Definition von KI, daher enthält das EU-KI-Gesetz einen Anhang, der die Techniken und Ansätze definiert, die in seinen Anwendungsbereich fallen.

As festgestellt vom Montreal AI Ethics Institutehat die Europäische Kommission eine breite und neutrale Definition von KI-Systemen gewählt und sie als Software bezeichnet, „die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Ansätze entwickelt wurde und für eine bestimmte Reihe von Menschen definierter Ziele erzeugen kann Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen, die die Umgebungen beeinflussen, mit denen sie interagieren”.

Die im Anhang des EU-KI-Gesetzes genannten Techniken umfassen sowohl maschinelle Lernansätze als auch logik- und wissensbasierte Ansätze. Sie sind weitreichend, bis hin zu Kritik ziehen für “den Vorschlag, die Verwendung der Bayes’schen Schätzung zu regulieren”. Während das Navigieren zwischen Geschäfts- und Forschungsbedarf und Bürgerbelangen ein schmaler Grat ist, scheinen solche Behauptungen den Kern der Philosophie des vorgeschlagenen Gesetzes nicht zu erfassen: den sogenannten risikobasierten Ansatz.

Im EU-KI-Gesetz werden KI-Systeme je nach wahrgenommenem Risiko in 4 Kategorien eingeteilt: Systeme mit inakzeptablem Risiko werden vollständig verboten (obwohl einige Ausnahmen gelten), Systeme mit hohem Risiko unterliegen den Regeln der Rückverfolgbarkeit, Transparenz und Robustheit, niedrig -Risikosysteme erfordern Transparenz seitens des Lieferanten und minimale Risikosysteme, an die keine Anforderungen gestellt werden.

Es geht also nicht darum, bestimmte Techniken zu regulieren, sondern vielmehr darum, die Anwendung dieser Techniken in bestimmten Anwendungen entsprechend dem Risiko, das die Anwendungen darstellen, zu regulieren. In Bezug auf die Techniken weist der vorgeschlagene Rahmen darauf hin, dass Anpassungen im Laufe der Zeit erforderlich sein können, um mit der Entwicklung der Domäne Schritt zu halten.

Ausgenommen vom Anwendungsbereich des EU-KI-Gesetzes sind KI-Systeme, die ausschließlich für militärische Zwecke entwickelt oder genutzt werden. Ausgenommen vom EU-KI-Gesetz sind auch Behörden von Drittstaaten und internationale Organisationen, die KI-Systeme im Rahmen von Abkommen über internationale Strafverfolgung und justizielle Zusammenarbeit mit der EU oder mit einem oder mehreren ihrer Mitglieder einsetzen.

Flaggen der Europäischen Union

Im EU-KI-Gesetz werden KI-Systeme nach dem wahrgenommenen Risiko in 4 Kategorien eingeteilt

Getty Images/iStockphoto

KI-Anwendungen, die menschliches Verhalten manipulieren, um Benutzern ihren freien Willen zu nehmen, und Systeme, die ein soziales Scoring durch die EU-Mitgliedstaaten ermöglichen, werden als unannehmbares Risiko eingestuft und vollständig verboten.

Zu den KI-Systemen mit hohem Risiko gehören die biometrische Identifizierung, die Verwaltung kritischer Infrastrukturen (Wasser, Energie usw.), KI-Systeme, die für den Einsatz in Bildungseinrichtungen oder für das Personalmanagement bestimmt sind, und KI-Anwendungen für den Zugang zu wesentlichen Diensten (Bankkredite, öffentliche Dienste, soziale Dienste). Sozialleistungen, Justiz usw.), Nutzung für Polizeieinsätze sowie Migrationssteuerung und Grenzkontrolle.

Allerdings ist die Anwendung von Biometrische Identifikation umfasst mehrere Ausnahmen, etwa die Suche nach einem vermissten Kind oder das Auffinden von Verdächtigen in Fällen von Terrorismus, Menschenhandel oder Kinderpornografie. Das EU-KI-Gesetz schreibt vor, dass KI-Systeme mit hohem Risiko in einer von der Europäischen Kommission geführten Datenbank erfasst werden sollen.

Systeme mit begrenztem Risiko umfassen meistens verschiedene Bots. Für diese ist die wichtigste Anforderung Transparenz. Wenn Benutzer beispielsweise mit einem Chatbot interagieren, müssen sie darüber informiert werden, damit sie eine fundierte Entscheidung treffen können, ob sie fortfahren möchten oder nicht.

Schließlich sind laut Kommission KI-Systeme, die Bürgerrechte nicht gefährden, wie etwa Spamfilter oder Spiele, von der Regulierungspflicht ausgenommen.

Das EU-KI-Gesetz als Weg zu vertrauenswürdiger KI

Die Grundidee hinter diesem risikobasierten Ansatz zur KI-Regulierung erinnert ein wenig an der Ansatz zur Kennzeichnung elektrischer Haushaltsgeräte auf der Grundlage ihrer Energieeffizienz in der EU. Geräte werden anhand ihrer Energieeffizienzeigenschaften kategorisiert und mit Labels von A (am besten) bis G (am schlechtesten) versehen.

Aber es gibt auch einige wichtige Unterschiede. Vor allem, während Energieetiketten von den Verbrauchern gesehen und berücksichtigt werden sollen, ist die Risikobewertung von KI-Systemen nicht auf dasselbe Ziel ausgerichtet. Wenn es aber nach Mozilla geht, kann sich das bis zum Inkrafttreten des EU-KI-Gesetzes ändern.

Das Ziehen von Analogien ist immer interessant, aber was hier wirklich wichtig ist, ist, dass der risikobasierte Ansatz versucht, die Auswirkungen der Verordnung auf diejenigen zu minimieren, die KI-Systeme entwickeln und einsetzen, die wenig bis gar keine Bedenken haben, sagte Gahntz.

„Die Idee ist, die Aufmerksamkeit auf die Stellen zu lenken, an denen es schwierig wird, wo ein Risiko für die Sicherheit, die Rechte und die Privatsphäre der Menschen usw. besteht. Das ist auch der Teil, auf den wir uns konzentrieren möchten, weil die Regulierung nicht das Ziel von und ist selbst.

Dies wollen wir mit unseren Empfehlungen und unserer Interessenvertretung erreichen. Die Teile der Verordnung, die sich auf die Minderung oder Verhinderung des Eintretens von Risiken konzentrieren, werden im endgültigen EU-KI-Gesetz gestärkt.

Es lassen sich viele Analogien zu anderen risikobasierten Ansätzen ziehen, die wir andernorts in europäischen Gesetzen und Vorschriften sehen. Aber es ist auch wichtig, die Risiken zu betrachten, die für jeden Anwendungsfall spezifisch sind. Das bedeutet im Wesentlichen, die Frage zu beantworten, wie wir sicherstellen können, dass KI vertrauenswürdig ist“, sagte Gahntz.

Gahntz und Surman betonten, dass die Empfehlungen von Mozilla mit Sorgfalt und der gebotenen Sorgfalt entwickelt wurden, die in diesen Prozess einfließen muss, um sicherzustellen, dass niemand geschädigt wird und KI am Ende ein Nettonutzen für alle ist.

Wir werden mit einer Ausarbeitung der Empfehlungen von Mozilla zur Verbesserung des EU-KI-Gesetzes sowie der zugrunde liegenden Philosophie von fortfahren Vertrauenswürdige KI und die KI-Theorie des Wandels und wie Sie sich an der Konversation in Teil 2 dieses Artikels beteiligen können.

Leave a Comment

Your email address will not be published.