Am 1. August trat die KI-Verordnung (KI-VO) der Europäischen Union in Kraft. Fragen und Antworten.
Was ist KI im Sinne der EU-Verordnung - und was nicht?
Nach der Definition der KI-VO (Verordnung über Künstliche Intelligenz) ist KI eine besondere, insbesondere autonome und deshalb unbeherrschbare Technik, die sich ohne menschliches Zutun verändern kann.
In vielen Fällen ist die KI-VO gar nicht einschlägig, weil es nicht um KI im Sinne der KI-Verordnung geht.
Wie funktioniert KI?
KI basiert auf Computeranwendungen, die auf große Datenpools zugreifen und so in einer für Menschen gut verständlichen Weise Ergebnisse erzeugen.
Im Fokus stehen derzeit Anwendungen, die wie ChatGPT Inhalte in menschlicher Sprache oder wie Dall-E Bilder hervorbringen, die man von menschlich erzeugten Inhalten von außen zum Teil nicht mehr unterscheiden kann.
Für wen gilt das KI-Recht?
Die KI-Verordnung gilt faktisch für jedermann, der KI im beruflichen Kontext einsetzt. Sie regelt nämlich den Betrieb, sprich die Verwendung, von KI-Systemen wie ChatGPT und legt für Betreiber Pflichten fest. Wer als Handwerker seine Mitarbeiter- oder Kunden per Sprach-KI anspricht oder sich einen Werbeflyer von einer Bild-KI erzeugen lässt, ist Betreiber, denn er verwendet ein KI-System für berufliche Zwecke.
Wer KI für rein private Zwecke betreibt, ist nicht Betreiber von KI. Für ihn gilt die KI-VO nicht. Allerdings muss man aufpassen. Lehrer, die ihren Schülern die Verwendung von ChatGPT zur Unterstützung bei den Hausaufgaben zur Verfügung stellen, sind Betreiber von KI-Systemen. Schließlich sind Hausaufgaben keine Privatsache, sondern werden im Rahmen der staatlichen Schulpflicht gemacht.
Was bedeutet es, ein KI-System zu betreiben?
Wer als Bäcker einen Backofen verwendet, der betreibt ihn im Rechtssinne. Wer bei der Arbeit ein KI-System verwendet, der betreibt es dementsprechend.
Muss jeder KI-Kompetenz nachweisen?
Die KI-VO schreibt jedem vor, der ein KI-System wie ChatGPT verwendet, also betreibt, KI-Kompetenz (Art. 4 KI-VO) zu besitzen und zu vermitteln. Da diese Pflicht für Betreiber, also Verwender, von KI-Systemen gilt, sind nicht nur Unternehmen und Behörden dazu verpflichtet, sondern auch jede natürliche Person, die ein KI-System wie ChatGPT zu nicht-persönlichen Zwecken nutzt.
Diese Pflicht muss im Februar 2025 umgesetzt sein.
Was ist der rechtliche Ansatz der KI-VO?
Die KI-VO wählt einen rechtlichen Ansatz, der aus zwei Kernelementen besteht. Sie steckt zunächst einen gesetzlichen Rahmen für die Entwicklung und den Betrieb Künstlicher Intelligenz ab und ordnet die Nutzung der Technik in Risikoklassen ein.
Sodann löst die KI-VO das Problem der Sicherung der menschlichen Verantwortung bei maschineller Hilfe, indem sie den Menschen in die Pflicht nimmt, die autonome Technik selbstbestimmt zu stoppen, wenn es sein muss.
Lesen Sie auch
Jenseits der Grenzen dieses Rechtsrahmens zum Schutz der Menschen und ihrer Rechte herrscht Freiheit zum Einsatz von KI, soweit nicht das von der KI-VO unberührte und unabhängig davon geltende sonstige Recht – etwa das Datenschutz- oder Urheberrecht – ohnehin Grenzen setzt.
Ist KI gefährlich?
Dafür kommt es auf den konkreten Verwendungszweck an. Von diesem macht die KI-VO auch die rechtlichen Grenzen des Einsatzes abhängig. Und den bestimmt derjenige, der die KI verwendet.
Ab wann gilt das KI-Recht?
Die KI-VO ist ab dem 1. August 2024 innerhalb der Europäischen Union geltendes Recht. Damit sich Staat, Gesellschaft und Wirtschaft an den neuen Rechtsrahmen gewöhnen können, wird sie in Stufen wirksam.
KI-Kompetenz muss jeder, der KI nicht rein privat verwendet, schon ab Februar 2025 nachweisen.
Welches Recht muss man neben dem KI-Recht beachten?
Wer KI-Systeme nutzt, muss nicht nur die Regeln der KI-VO einhalten. Da bei der Verwendung von KI-Systemen Texte und Bilder entstehen, deren Grundlagen geschützt sind, und auf Inhalte zugegriffen wird, die geschützt sind, muss man zusätzlich das Urheberrecht und das Markenrecht beachten.
Das gilt bei der Verwendung von KI ohnehin und ebenso wie das Datenschutzrecht, wenn personenbezogene Daten verarbeitet werden. Das Verbraucherschutzrecht, das Arbeitsrecht, das Schulrecht und das Jugendschutzrecht gelten ebenso.
Über den Autor
- Rolf Schwartmann ist Mitherausgeber des Praxisleitfadens Schwartmann/Keber/Zenner, KI-VO.
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.