FAQ zum Thema Künstliche Intelligenz
Die Zukunftstechnologie Künstliche Intelligenz verändert unser Leben und die Art, wie wir arbeiten. In diesem Zusammenhang stellt sich eine Vielzahl an Fragen. Was ist Künstliche Intelligenz? Was ist bei ihrer Entwicklung zu beachten? Welche Regelungen gibt es bereits, die im Zusammenhang mit Künstlicher Intelligenz einzuhalten sind?
Das Team von PwC Legal hat diesbezügliche Informationen für Sie zusammengestellt. Erfahren Sie hier in unseren FAQ zur Künstlichen Intelligenz mehr über KI und die bereits bestehenden Regelungen.
#1
Was versteht man unter künstlicher Intelligenz?
Für den Begriff „Künstliche Intelligenz“ (KI) gibt es derzeit keine einheitliche Definition. Im Allgemeinen versteht man darunter die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.
Zu diesem Zweck greift die KI auf große Datenmengen zu. Der Zugriff auf diese Daten ist vor allem deshalb wesentlich, weil diese genutzt werden können, um die der KI zugrundeliegenden Algorithmen zu trainieren. Der KI kann dadurch nicht nur ermöglicht werden, komplexe Aufgaben zu lösen, sondern sich auch selbst weiterzuentwickeln.
Die EU-Kommission, die derzeit an der sog. KI-Verordnung (“AI-Act”) – d. h. einem EU-weiten Rahmenwerk zur Regulierung von KI – arbeitet, verwendet in rechtlicher Sicht den Begriff „KI-System“. Zusammenfassend versteht die EU-Kommission unter KI-System eine Software, die bestimmte Techniken, wie etwa maschinelles Lernen, nutzt, um im Hinblick auf vom Menschen festgelegte Ziele, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen zu erzeugen. Die von der EU-Kommission verwendete Definition ist daher weit gefasst, wodurch sich ein breiter Anwendungsbereich der beabsichtigten KI-Verordnung ergibt.
2#
Was ist bei der Entwicklung von Künstlicher Intelligenz zu beachten?
Der Grundstein für die Entwicklung von KI-Anwendungen sind Daten. Da KI eine große Menge an Daten benötigt, ist vor allem der Datenschutz bei der Entwicklung von KI von wesentlicher Bedeutung.
Wesentliche Anforderungen in Bezug auf den sicheren Umgang mit Daten enthält die Datenschutz-Grundverordnung („DSGVO“). Nach dem Vorhaben der EU werden die regulatorischen Vorgaben der neuen KI-Verordnung, die derzeit auf EU-Ebene vorbereitet wird, künftig parallel zur DSGVO bestehen. In Bezug auf personenbezogene Daten sind strenge Grundsätze – wie insbesondere die Grundsätze der Datenminimierung, Datenrichtigkeit und Zweckbindung der Datenverarbeitung – zu beachten.
Mit Blick auf die Zweckbindung dürfen personenbezogene Daten etwa nur für die vordefinierten Zwecke genutzt werden, wodurch sicherzustellen ist, dass diese Daten nicht zweckwidrig verwendet werden. Sollen etwa Daten aus einer anderen Anwendungssoftware für die Entwicklung einer KI (weiter-)verwendet werden, bedarf es einer sorgfältigen Prüfung, ob dies vom Zweck noch gedeckt ist. Für die Verarbeitung von Daten – auch im Rahmen der KI – ist eine zulässige Rechtsgrundlage erforderlich, wie etwa die Einwilligung des Betroffenen oder eines überwiegend berechtigten Interesses des Verantwortlichen.
Von besonderer Bedeutung im Hinblick auf KI-Anwendungen sind vor allem auch die Informationspflichten bei Bestehen von automatisierten Entscheidungsfindungen, die speziellen Bestimmungen für Entscheidungsprozesse, die ausschließlich auf einer automatisierten Verarbeitung einschließlich Profiling beruhen, die Anforderungen an die Qualität der verwendeten Daten sowie die Dokumentationspflichten.
Beim Training der KI, z. B. durch maschinelles Lernen, ist insbesondere darauf zu achten, dass durch die Verwendung des der KI zur Verfügung gestellten Materials (z. B. Bilder, Lieder, Videos) keine Urheberrechtsverletzungen erfolgen. Das Urheberrecht hat den strengen Zweck, vor unerlaubten Vervielfältigungen zu schützen. Da es derzeit keine pauschale Ausnahme für maschinelles Lernen gibt, müssen KI-Anbieter prüfen, ob eine Berechtigung besteht urheberrechtlich geschütztes Material zu verwenden. Anderenfalls drohen urheberechtliche Unterlassungs- und Schadenersatzansprüche.
3#
Welche regulatorischen Vorgaben sind zu beachten?
Auf europäischer Ebene werden derzeit verschiedene Maßnahmen vorbereitet. Einerseits arbeitet die europäische Kommission an der sog. KI-Verordnung (AI-Act). Darüber hinaus soll auch eine KI-Haftungsrichtlinie erlassen sowie Änderungen an der bereits bestehenden Produkthaftungsrichtlinie vorgenommen werden. Diese drei Vorschläge sind Teil eines Maßnahmenpakets der EU, mit dem die Einführung vertrauenswürdiger KI unterstützt werden soll.
Da die KI-Verordnung einen risikobasierten Ansatz verfolgt, sind die Anwendungsvoraussetzungen und Pflichten umso strenger, je höher die mit dem KI-System verbundenen Risiken sind. Verboten sind z. B. KI-Systeme, die eine klare Bedrohung für die Sicherheit, Lebensgrundlagen und Rechte der Menschen darstellen (z. B. Social Scoring, d. h. KI-Systeme, die etwa öffentlichen Institutionen eine Bewertung des sozialen Verhaltens von Menschen ermöglichen, oder Anwendungen, die menschliches Verhalten manipulieren).
Ist mit einem KI-System ein hohes Risiko verbunden, etwa weil dieses in einem bestimmten, besonders sensiblen Bereich eingesetzt wird (z. B. Gesundheitsbereich, Schul- oder Berufsausbildung, Rechtspflege) liegt ein Hochrisiko-System vor. Ein solches Hochrisiko-Systeme ist nicht verboten, sondern unterliegt strengen Voraussetzungen (z. B. obligatorische Einrichtung eines Risiko-Managementsystems, Aufzeichnungspflichten, vorgegebenes Durchlaufen einer Konformitätsbewertung). KI-Systeme, die nur mit einem geringen Risiko verbunden sind (z. B. Chatbots), unterliegen keine solchen strengeren Voraussetzungen, aber Transparenzpflichten.
Bei Beteiligung einer KI kann es für den Geschädigten aber mitunter schwierig sein, seinen Beweispflichten nachzukommen. Die KI-Haftungsrichtlinie fokussiert sich daher auf Erleichterungen bei Beweisproblemen in Bezug auf Schäden, die durch KI verursacht werden. Nach den neuen Bestimmungen soll den Geschädigten die Beweisführung durch die Festlegung von Vermutungsregeln erleichtert werden.
Die Einführung einer Kausalitätsvermutung erleichtert dem Geschädigten etwa die Darlegung, dass ein Schaden durch ein bestimmtes Verschulden oder Versäumnis eines Schädigers verursacht wurde. Es liegt dann beim Schädiger diese Vermutung zu widerlegen. Darüber hinaus erhalten Geschädigte einen besseren Zugang zu Beweismitteln, die sich im Besitz von Unternehmen oder Anbietern befinden. Die Geschädigten können etwa bei Gericht die Offenlegung der Beweismittel verlangen, wenn es sich um eine Hochrisiko-KI handelt.
4#
Welche Haftungsrisiken ergeben sich?
Für die Haftung im Zusammenhang mit KI gibt es noch keine speziellen Bestimmungen, d.h. es gelten die bestehenden allgemeinen zivilrechtlichen Haftungsbestimmungen, die keine speziellen Bestimmungen für KI enthalten.
Unter Berücksichtigung aktueller Entwicklungen – insbesondere der derzeit auf EU-Ebene in Vorbereitung befindlichen KI-Haftungsrichtlinie und der geplanten Änderungen der Produkthaftungsrichtlinie – wird das Haftungsrecht jedoch modernisiert.
Für weitere Details zur geplante KI-Haftungsrichtlinie und den beabsichtigten Änderungen der Produkthaftungsrichtlinie verweisen wir auf unsere Ausführungen zu Punkt 3.
5#
Ist der von einer KI-Anwendung generierte Output schutzfähig?
Aufgrund des technologischen Fortschritts im Bereich der KI ist es möglich, mit Hilfe von KI-Anwendung Ergebnisse und Resultate zu generieren, die eine gewisse Originalität bzw. Individualität aufweisen. Da nach derzeitiger Rechtslage Computerprogramme mangels eigener Rechtspersönlichkeit nicht selbst rechtsfähig sind, das Urheberrecht aber von „eigentümlichen geistigen Schöpfungen“ spricht, die als vom Menschen geschaffen zu verstehen sind, kann die KI nicht selbst Urheber der von ihr produzierten Werke (z. B. Bilder, Lieder, Filme) sein.
Nach dem derzeitigen Verständnis in der österreichischen Literatur kann daher nur ein Erzeugnis menschlichen Geistes vom Urheberrecht geschützt sein. Auch wenn die KI selbst nicht zum Urheber werden kann, ist nach der hL nicht ausgeschlossen, dass – abhängig vom Einzelfall und der jeweiligen KI-Anwendung – dahinterstehende Menschen (z. B. Programmierer oder Anwender) zum Urheber des von der KI erzeugten Ergebnisses werden können.
Hinweis: Dieser Beitrag stellt eine generelle Information und keine Rechtsberatung von PwC Legal oehner & partner rechtsanwaelte gmbh dar. Der Beitrag kann eine individuelle Rechtsberatung nicht ersetzen. PwC Legal oehner & partner rechtsanwaelte gmbh übernimmt keine Haftung, gleich welcher Art, für Inhalt und Richtigkeit des Beitrags.
Stand: 12.06.2023
Kontaktaufnahme
