Künstliche Intelligenz (KI) ist das Thema unserer Zeit. Insbesondere der Chatbot „ChatGPT“ erregt seit seiner Veröffentlichung im November 2022 großes Aufsehen, da er die Grenzen der bisherigen Nutzung von IT-Systemen sprengt und völlig neue Möglichkeiten eröffnet.
KI kann inzwischen Aufsätze und Geschichten schreiben, Bilder malen, Musik komponieren oder Computer-Programme schreiben.
Die Wahrnehmung der KI durch uns Menschen ist sehr unterschiedlich. Während die einen sie bereits begeistert für Beruf oder Schule nutzen, sind die anderen skeptisch und besorgt wegen der
gewaltigen Veränderungen, die durch die Weiterentwicklung und Nutzung der KI vor uns liegen.
Natürlich muss auch der Gesetzgeber schnellstmöglich Antworten auf die rechtlichen Fragen geben, die sich durch diese neue Form der Datenverarbeitung ergeben. Bei den Gerichten jedenfalls sind
die Probleme, die durch die Nutzung von KI entstehen, längst angekommen.
Ich möchte hier einen kurzen Überblick über die rechtlichen Fragen geben, die sich aus der Nutzung von KI ergeben können. Wer sich näher mit dem Thema befassen will findet einen umfassenden Überblick über das IT- und Internetrecht in den Skripten von Prof. Dr. Thomas Hoeren und auf der gleichen Seite unter "Publikationen" jede Menge weiteres kostenloses Material.
1. Haftungsfragen
Wer haftet für einen durch ein KI-System verursachten Schaden?
Ob das Produkthaftungsgesetz auf KI-Systeme Anwendung findet, ist umstritten, da dieses auf bewegliche Sachen und Elektrizität beschränkt ist. Es kommt also darauf an, ob man Software als bewegliche Sache bewertet. [1]
Es wird auch diskutiert, ob man für KI-Systeme eine sogenannte elektronische Person (e-Person) als Trägerin von Rechten und Pflichten einführen soll. Diese könnte dann zur Haftung herangezogen werden. Doch selbst wenn man die Existenz einer e-Person annehmen würde, wäre die Haftung einer solchen für den Geschädigten wertlos, da die e-Person vermögenslos wäre. Würde man eine e-Person einführen, müsste diese also mit Vermögen ausgestattet werden, etwa durch einen Fond aus Geldern der Wirtschaft.
Da es jedoch bis jetzt noch keine e-Person gibt, müssen wir uns andere potenziell Haftende suchen.
Ist Ursache eines durch ein KI-System verursachten Schadens ein Programmierfehler, kann der Programmierer haften. Auch kommt die Haftung des Herstellers eines Produkts in Frage, das KI als
Bestandteil enthält.
Doch auch der Verwender des KI-Systems kann für eine Haftung in Frage kommen. Wer ein KI-System bewusst für seine Zwecke missbrauch, benutzt dieses lediglich als Werkzeug seines schädigenden
Verhaltens. Das dürfte z.B. der Fall sein, wenn jemand ChatGPT eine Fake-Nachricht formulieren lässt, um diese dann in den sozialen Medien zu verbreiten.
Eine Haftung des KI-Nutzers wird möglicherweise auch dann in Frage kommen, wenn dieser vor Veröffentlichung eines von ChatGPT erzeugten Textes nicht prüft, ob der Text urheberrechtlich geschützten Inhalt hat.
2. Strafrechtliche Fragen
Auch die strafrechtliche Verantwortung für durch ein KI-System verursachten Schaden stellt eine Herausforderung dar. Schließlich kann das Strafrecht sinnvollerweise nur auf natürliche Personen Anwendung finden. Hier wird somit ähnlich wie bei der zivilrechtlichen Haftung zu prüfen sein, ob der Programmierer und/oder der Nutzer der KI-Software strafrechtliche Normen verletzt haben.
3. Gleichbehandlungsgrundsatz
Ein KI-System kann autonome Entscheidungen nur auf der Grundlage von Daten treffen, mit denen es trainiert wurde. Diese Daten sind nur so repräsentativ wie sie erhoben und gespeichert wurden. Das
kann z.B. zur Diskriminierung weiblicher Bewerber bei einer Stellenbesetzung führen, da die Datengrundlage von männlichen Denkmustern geprägt ist. Gleiches gilt für viele Bereiche der
Gesellschaft, z.B. die Unterscheidung nach ethnischer Herkunft bei der Strafverfolgung.
4. Prüfungsordnungen
ChatGPT hat inzwischen längst Schule, Studium und Ausbildung erreicht. Die Anwendung wird auch schon fleißig zur Erstellung von Prüfungsarbeiten genutzt. Hier müssen die Prüfungsverfahren entsprechend angepasst werden, um zu gewährleisten, dass gelieferte Ergebnisse auch wirklich vom Prüfling stammen. Hier wird die von vielen gefürchtete mündliche Prüfung wieder mehr Gewicht bekommen müssen.
5. Urheberrechtsschutz für ein von künstlicher Intelligenz geschaffenes Werk (z.B. Musik, Bild, Geschichte)
Hier ist schon die Frage, wer Träger eines Urheberrechts sein könnte. Gem. § 7 UrhG muss es eine natürliche Person sein. Das könnte der Programmierer oder der Inhaber der für das Einlernen der KI verwendeten Daten sein.
Auch die bereits erwähnt e-Person kommt hier wieder ins Spiel.
6. Urheberrechtsschutz für Werke, die durch die KI ohne Erlaubnis des Urhebers verwendet werden.
Wird z.B. durch ChatGPT ein Text wiedergegeben, der aus dem Internet kopiert wurde, hat der Verfasser des Textes in der Regel dazu nicht seine Zustimmung erteilt.
Wem gegenüber kann der Verfasser seine Rechte geltend machen? Ist es der Programmierer der KI-Software oder auch hier wieder eine e-Person?
7. Datenschutz
Die KI lebt von Daten und braucht Unmengen davon, um sinnvoll zu arbeiten. Soweit es sich dabei um personenbezogene Daten handelt, sind dabei die Grundsätze der Datenschutz-Grundverordnung der Europäischen Union (DSGVO) einzuhalten.
[1] Verantwortlichkeiten von IT-Herstellern, Nutzern und Intermediären Studie im Auftrag des BSI durchgeführt von Prof. Dr. Gerald Spindler, Universität Göttingen
Kommentar schreiben