KI-Kompetenz – FAQ Teil 1: Was ist KI und wer muss das KI-Recht beachten?

12.08.2024

Prof. Dr. Rolf Schwartmann, Leiter der Forschungsstelle für Medienrecht an der TH Köln; Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V.

Was ist KI und was nicht? Nach der Definition der KI-VO (Verordnung über Künstliche Intelligenz) ist KI eine besondere, insbesondere autonome und deshalb unbeherrschbare Technik, die sich ohne menschliches Zutun verändern kann. In vielen Fällen ist die KI-VO gar nicht einschlägig, weil es nicht um KI im Sinne der KI-Verordnung geht.

Wie funktioniert KI? KI basiert auf Computeranwendungen, die auf große Datenpools zugreifen und so in einer für Menschen gut verständlichen Weise Ergebnisse erzeugen. Im Fokus stehen derzeit Anwendungen, die wie ChatGPT Inhalte in menschlicher Sprache oder wie Dall-E Bilder hervorbringen, die man von menschlich erzeugten Inhalten von außen nicht mehr unterscheiden kann.

Für wen gilt das KI-Recht? Die KI-VO gilt faktisch für jedermann, der KI im beruflichen Kontext in eigener Verantwortung einsetzt. Sie regelt nämlich den Betrieb, sprich die Verwendung, von KI-Systemen wie ChatGPT und legt für Betreiber Pflichten fest. Wer als Handwerker seine Mitarbeiter- oder Kunden per Sprach-KI anspricht oder sich einen Werbeflyer von einer Bild-KI erzeugen lässt, ist Betreiber, denn er verwendet ein KI-System für berufliche Zwecke. Wer KI für rein private Zwecke betreibt, ist nicht Betreiber von KI. Für ihn gilt die KI-VO nicht. Allerdings muss man aufpassen. Lehrer, die ihren Schülern die Verwendung von ChatGPT zur Unterstützung bei den Hausaufgaben zur Verfügung stellen, sind Betreiber von KI-Systemen. Schließlich sind Hausaufgaben keine Privatsache, sondern werden im Rahmen der staatlichen Schulpflicht gemacht.

Was bedeutet es, ein KI-System zu betreiben? Wer als Bäcker einen Backofen verwendet, der betreibt ihn im Rechtssinne. Wer ein bei der Arbeit ein KI-System verwendet, der betreibt es dementsprechend.

Muss jeder KI-Kompetenz nachweisen? Die KI-VO schreibt jedem, der ein KI-System wie ChatGPT beruflich in eigener Verantwortung verwendet, also betreibt, vor, KI-Kompetenz (Art. 4 KI-VO) zu vermitteln. Da diese Pflicht für Betreiber, also Verwender, von KI-Systemen gilt, sind nicht nur Unternehmen und Behörden, sondern auch jede natürliche Person verpflichtet, die ein KI-System wie ChatGPT nicht zu persönlichen Zwecken nutzt. Diese Pflicht muss im Februar 2025 umgesetzt sein.

Was ist der rechtliche Ansatz der KI-VO?  Die KI-VO wählt einen rechtlichen Ansatz, der aus zwei Kernelementen besteht. Sie steckt zunächst einen gesetzlichen Rahmen für die Entwicklung und den Betrieb künstlicher Intelligenz ab und ordnet die Nutzung der Technik in Risikoklassen ein. Sodann löst die KI-VO das Problem der Sicherung der menschlichen Verantwortung bei maschineller Hilfe, indem sie den Menschen in die Pflicht nimmt, die autonome Technik selbstbestimmt zu stoppen, wenn es sein muss. Jenseits der Grenzen dieses Rechtsrahmens zum Schutz der Menschen und ihrer Rechte herrscht Freiheit zum Einsatz von KI, soweit nicht das von der KI-VO unberührte und unabhängig davon geltende sonstige Recht – etwa das Datenschutz- oder Urheberrecht – ohnehin Grenzen setzt.

Ist KI gefährlich? Dafür kommt es auf den konkreten Verwendungszweck an. Von diesem macht die KI-VO auch die rechtlichen Grenzen des Einsatzes abhängig. Und den bestimmt derjenige, der die KI verwendet.

Ab wann gilt das KI-Recht? Die KI-VO ist seit dem 1. August 2024 geltendes Recht. Damit sich Staat, Gesellschaft und Wirtschaft an den neuen Rechtsrahmen gewöhnen können, wird sie in Stufen wirksam. KI-Kompetenz muss jeder, der KI nicht rein privat verwendet schon ab Februar 2025 vermitteln.

Welches Recht muss man neben dem KI-Recht beachten? Wer KI-Systeme verwendet, der muss nicht nur die Regeln der KI-VO einhalten. Da bei der Verwendung von KI-Systemen Texte und Bilder entstehen, deren Grundlagen geschützt sind und auf Inhalte zugegriffen wird, die geschützt sind, muss man zusätzlich das Urheberrecht und das Markenrecht beachten. Das gilt bei der Verwendung von KI ohnehin und ebenso wie das Datenschutzrecht, wenn personenbezogene Daten verarbeitet werden. Das Verbraucherschutzrecht, das Arbeitsrecht, das Schulrecht und das Jugendschutzrecht gelten ebenso.