Einheitliche Regeln für Künstliche Intelligenz in der EU

  • Bundesregierung ⏐ Startseite
  • Digitaler Fortschritt

  • Schwerpunkte

  • Themen   

  • Bundeskanzler

  • Bundesregierung

  • Aktuelles

  • Mediathek

  • Service

Das Foto zeigt ein menschliches Auge, in denen sich die Abkürzung "KI" spiegelt.

Der AI Act ist weltweit das erste Regelwerk für den Einsatz von Künstlicher Intelligenz.

Foto: IMAGO/Christian Ohde

Der Einsatz von Künstlicher Intelligenz (KI) wird in Zukunft eine immer größere Rolle spielen – sei es im Arbeitsalltag oder privat zuhause. Um das Vertrauen in die Technologie zu stärken, braucht es klare Regeln.

Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 daher den AI Act und damit einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union verabschiedet. Die KI-Verordnung ist das weltweilt erste umfassende Regelwerk für KI. Mit dem AI Act hat die EU nun ein starkes Fundament für die Regulierung von Künstlicher Intelligenz, das Vertrauen und Akzeptanz in die Technologie schafft und Innovationen „made in Europe“ ermöglicht.

Künstliche Intelligenz beschreibt die Fähigkeit von Maschinen, basierend auf Algorithmen Aufgaben autonom auszuführen und dabei die Problemlösungs- und Entscheidungsfähigkeiten des menschlichen Verstandes nachzuahmen.

AI Act: Strenge Vorgaben bei hohem Risiko

Der  AI Act schreibt vor, dass KI-Anwendungen nicht missbraucht werden dürfen. Ebenso muss der Schutz der Grundrechte gewährleistet sein. Gleichzeitig brauchen Wissenschaft und Wirtschaft Freiraum für Innovationen. Der AI Act verfolgt hier einen sogenannten risikobasierten Ansatz. Das heißt, je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben.

Ein inakzeptables Risiko stellen zum Beispiel KI-Systeme dar, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen und sie so zu manipulieren. Für sie gilt ein Verbot, genauso wie für KI-basiertes „Social Scoring“, also die Vergabe von Punkten nach erwünschtem Verhalten.

Es gibt außerdem eine Transparenzpflicht. Das heißt, künstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) müssen eindeutig als solche gekennzeichnet werden.

Hochriskante KI-Systeme – zum Beispiel in den Bereichen kritische Infrastruktur, Beschäftigung sowie Gesundheits- oder Bankenwesen – müssen eine Reihe von Anforderungen erfüllen, um für den EU-Markt zugelassen zu werden. Für Anwendungen mit einem geringen Risiko gelten lediglich eingegrenzte Transparenz- und Informationspflichten.

„Gesellschaft fit für die Zukunft machen“

Die EU-Mitgliedstaaten müssen den AI Act nun in nationales Recht umsetzen. Bundesdigitalminister Volker Wissing dazu: „Wir brauchen KI in allen Bereichen, wenn wir unsere Gesellschaft fit für die Zukunft machen und unsere Wirtschaft wettbewerbsfähig halten wollen.“ Die KI-Verordnung könne die Grundlage für einen breiten und sicheren Einsatz von KI in unserem Land sein. Gleichzeitig betonte Wissing, dass bei der Umsetzung in nationales Recht darauf zu achten ist, die maximalen Spielräume für Innovationen zu nutzen, „damit KI-Unternehmen in Deutschland und Europa eine Zukunft haben“.

Bundeskanzler Olaf Scholz hat sich am 21. Mai 2024 auf Einladung Südkoreas und Großbritanniens an einem KI-Gipfel beteiligt. Während auf der Vorgängerkonferenz im Herbst 2023 in London das Thema Sicherheit besprochen wurde, tauschten sich die Staats- und Regierungschefs nun darüber aus, wie man Innovationen durch KI besser fördern kann – und wie sichergestellt wird, dass möglichst viele Menschen von den neuen technologischen Möglichkeiten profitieren.

So fördert die Bundesregierung KI

Der Bundesregierung ist es wichtig, sich mit den Risiken auseinandersetzen, gleichzeitig aber auch die Chancen von KI zu betonen. Für diese Balance setzt sie sich ein. Mit ihrer nationalen KI-Strategie will die Bundesregierung Deutschland zu einem führenden Standort für die Entwicklung und Anwendung von KI-Technologien machen. Dafür unterstützt sie die Erforschung und Anwendung von KI in einer Reihe von Vorhaben, zum Beispiel deutschlandweit in neu eingerichteten KI-Servicezentren für die Wissenschaft und Wirtschaft, insbesondere für kleine und mittlere Unternehmen.