Das Thema ChatGPT ist derzeit omnipräsent. Teils werden sogar die Worte „ChatGPT“ und „nächster iPhone-Moment“ in einem Atemzug genannt. Dieser Beitrag gibt Ihnen einen Überblick, was sich hinter ChatGPT verbirgt, wofür es einsetzbar ist und welche rechtlichen Probleme es mit sich bringt.
Was ist ChatGPT?
ChatGPT ist eine künstliche Intelligenz (KI) des US-amerikanischen Unternehmens OpenAI, die dazu entwickelt wurde, menschenähnliche Gespräche zu führen und auf Fragen zu antworten. In ihrer aktuellsten Version basiert sie auf dem large language model (LLM) GPT-4 (Generative Pretrained Transformer). Solche LLM sind Programme, die anhand von großen Mengen Text trainiert wurden, um natürliche Sprache zu verstehen und selbst ausgeben zu können. Das LLM GPT (jeweils in seiner aktuellen Version) kann also als das Hirn hinter ChatGPT verstanden werden, während ChatGPT ein Interface ist, das speziell für den Anwendungsfall des Dialogs im Chat-Format trainiert wurde. Im Gegensatz zu anderen KI-Modellen sind GPT und ChatGPT nicht auf einen bestimmten Informationsbereich trainiert worden, sondern können auf ein breites, allgemeines Informationsspektrum zurückgreifen. Die Trainingsdaten stammen dabei aus Webscraping, Büchern, Wikipedia und anderen Textquellen.
Die Interaktion mit ChatGPT erfolgt durch Eingabe von sogenannten Prompts im Textfeld der Anwendung. Die Gestaltung von Prompts ist vielfältig. ChatGPT antwortet in Textform auf die Fragen oder Befehle des Nutzers. Es ist auch in der Lage, vom Nutzer bereitgestellte Informationen wie Referenztexte, Programmiercode und mittlerweile auch Bilder zu verwerten und in Antworten zu berücksichtigen. ChatGPT kann nicht nur menschliche Sprache ausgeben, sondern auch eine Vielzahl an Programmiersprachen. Seit GPT-4 kann ChatGPT auch auf das Internet zugreifen, sofern die KI der Ansicht ist, dass die Informationen aus dem eigenen Trainingssatz nicht ausreichen und aktuellere Informationen benötigt werden, um den Prompt zu beantworten. Um den bestmöglichen Output bei der Nutzung von ChatGPT zu erhalten, ist es essenziell, dass Prompts möglichst hochwertig gestaltet werden. Verfügbar ist ChatGPT mittlerweile per Webanwendung, iOS-App und API-Schnittstelle.
Die möglichen Anwendungsfälle für ChatGPT sind vielfältig. Ein Einsatz ist im unternehmerischen Kontext z. B. als Customer Support oder persönlicher Assistent oder im privaten Bereich als Nachhilfelehrer oder persönlicher Planer der nächsten Reise denkbar.
Datenschutz
Die datenschutzrechtlichen Vorschriften der DSGVO kommen zur Anwendung, sobald personenbezogene Daten verarbeitet werden. Das ist bei ChatGPT in der Regel der Fall, wenn in den Prompts Angaben gemacht werden, die direkt oder indirekt auf eine Person schließen lassen (z. B. Name, Telefonnummer, Adresse, …). Die Inhalte des Prompts werden zur Beantwortung durch ChatGPT auf den Servern von OpenAI verarbeitet und darüber hinaus noch für die Weiterentwicklung von ChatGPT genutzt. Liegen die datenschutzrechtlichen Anforderungen zur Verarbeitung der personenbezogenen Daten nicht vor, kommt es zu einem Datenschutzverstoß. Abgesehen davon, dass ein Erlaubnistatbestand wie eine Einwilligung oder ein berechtigtes Interesse für die Verarbeitungstätigkeit vorliegen muss, sollte darauf geachtet werden, dass neben dem Abschluss eines Auftragsverarbeitungsvertrags mit OpenAI unbedingt die Anforderungen an einen Drittlandstransfer erfüllt werden.
Da OpenAI ein Unternehmen mit Sitz in den USA ist und es derzeit keinen Angemessenheitsbeschluss für die USA gibt, müssen Unternehmen zusätzlich die EU-Standardvertragsklauseln mit OpenAI vereinbaren, ein Transfer Impact Assessment durchführen und ggf. zusätzliche Sicherungsmaßnahmen für die personenbezogenen Daten ergreifen. Dies wird vor allem in zwei Situationen relevant. Zum einen, wenn Mitarbeiter ChatGPT nutzen und ihre Prompts personenbezogene Daten enthalten. Zum anderen, wenn Unternehmen beabsichtigen, ChatGPT in ihre Website oder eigene Apps einzubauen, bspw. in Form eines Chatbots. Grundsätzlich sind Unternehmen gut beraten, ihre Mitarbeiter dazu anzuhalten, keine personenbezogenen Daten in ihren Prompts zu verwenden. Außerdem ist zu beachten, dass Personen durch die DSGVO gegen ausschließlich KI-basierte Entscheidungen geschützt werden. Danach sind z. B. Entscheidungen über die Einstellung eines Bewerbers, die automatisiert durch ChatGPT erfolgen, nicht zulässig.
Urheberrecht
Je nach Umfang und Aufwand des Prompts können Nutzer ein Interesse daran haben, hinreichende Verwertungs- und Schutzrechte an dem Output zu erlangen. Nach den Nutzungsbedingungen von OpenAI stehen dem Nutzer auch alle Rechte an dem Output zu. Das Problem ist jedoch, dass es nach geltendem deutschem Recht kein Dateneigentum gibt und an maschinengenerierten Daten, mangels persönlicher geistiger Schöpfung, keine Urheberrechte entstehen. ChatGPT kann entsprechend den Nutzern keine Nutzungs- und Verwertungsrechte einräumen. Auch ist fragwürdig, ob durch Veranlassung des Outputs per Prompt ein Urheberrecht an dem Output entsteht. Das hat nicht zur Folge, dass die Inhalte nicht genutzt werden dürfen, sondern vielmehr, dass ihnen kein Schutz aus dem Urheberrecht zukommt.
Betriebs- und Geschäftsgeheimnisse
Da die Inhalte von Prompts für die Weiterentwicklung von ChatGPT verwendet werden, sollte unbedingt darauf geachtet werden, dass keine Betriebs- und Geschäftsgeheimnisse in Prompts erwähnt werden. Denn wenn es schlecht läuft, landen diese Informationen anschließend als Output bei der Konkurrenz. Ein prominentes Beispiel für einen solchen Leak ist Samsung, wo Mitarbeiter u. a. vertrauliche Besprechungsaufzeichnungen durch ChatGPT zusammenfassen ließen und die Inhalte später als Output verfügbar wurden. Mittlerweile lässt es ChatGPT zu, dass die Inhalte der Prompts nicht dazu verwendet werden, das eigene LLM weiter zu trainieren.
Aktuelle Entwicklungen
Ende März ordnete die italienische Datenschutzaufsichtsbehörde ein vorübergehendes Verbot von ChatGPT an. U. a. ist die Datenschutzaufsichtsbehörde der Ansicht, dass keine ordnungsgemäße Rechtsgrundlage für die massenhafte Sammlung und Speicherung personenbezogener Daten bestehe. Mittlerweile ist ChatGPT in Italien wieder verfügbar, nachdem OpenAI der italienischen Datenschutzbehörde eine Reihe von Zugeständnissen gemacht hat. Jedoch überprüfen inzwischen auch kanadische und deutsche Datenschutzaufsichtsbehörden die Konformität von ChatGPT mit geltendem Datenschutzrecht. Darüber hinaus arbeitet die EU-Kommission an einer KI-Verordnung, die KI allgemein zukünftig stark regulieren könnte. Die Verabschiedung der KI-Verordnung könnte noch dieses Jahr erfolgen.
Fazit
ChatGPT bietet Unternehmen bei gezieltem Einsatz großes Optimierungspotenzial und Effizienzsteigerungen. Jedoch gebietet der Einsatz auch hohe Vorsicht und eine ausgefeilte Implementierungsstrategie, um hohe Bußgelder nach der DSGVO und geschäftsschädigende Datenleaks zu vermeiden. Allgemein empfiehlt es sich, Mitarbeitern Richtlinien für den Umgang mit ChatGPT an die Hand zu geben. Außerdem sollten Unternehmen die Entscheidungen der Datenschutzaufsichtsbehörden wachsam verfolgen, um, sofern notwendig, erforderliche Maßnahmen zeitnah ergreifen zu können.
Gastautor: Christian Kuss, Rechtsanwalt, LL.M., Partner
Luther Rechtsanwaltsgesellschaft mbH
Dieser Artikel erschien in der Ausgabe DIE WIRTSCHAFT 05.2023
