ChatGPT und KI: Risiken und Nebenwirkungen

Als wir Ihnen in Heft 3/2023 den Chatbot ChatGPT vorgestellt haben, war das wahrscheinlich für die meisten Leser noch eine Neuigkeit. Mittlerweile geht selbst vielen Schulkindern und Rentnern das Wort „ChatGPT“ leicht über die Lippen. Dabei ist ChatGPT nur ein Instrument der Künstlichen Intelligenz (KI) unter vielen. Künstliche Intelligenz, da ist sich der Autor dieses Beitrags sicher, wird uns mindestens bis zum Ende unseres Berufslebens noch beschäftigen.

Im Zusammenhang mit Sicherheitsfragen sind selbstverständlich nicht nur die Segnungen der KI zu thematisieren, sondern vor allem auch die Risiken. Nachfolgend zählen wir fünf ausgewählte Risikobereiche auf, die sich teilweise überschneiden:

1. Datensammlung in krimineller Absicht durch Chatbots
   Es gibt keine Garantie, dass die Inhalte sogenannter Prompts (Anfragen, z. B. an ChatGPT) nicht zum Nachteil des Fragenden verwendet werden. Hier lauern Gefahren bis hin zum Identitätsdiebstahl. Das auf Cybersecurityprodukte spezialisierte Unternehmen Bitdefender will bereits herausgefunden haben, dass im Rahmen von Phishingkampagnen gefälschte Versionen von ChatGPT verbreitet werden. Diese dienen dem Ziel, Nutzereingaben und -daten abzugreifen und unter anderem für die Zwecke des Social Engineering zu nutzen. (www.bitdefender.com, Kurzlink https://bit.ly/3L7CC1Q)
2. Generieren und Verbreiten von Falschmeldungen
   Nach den ersten Begeisterungsstürmen mehren sich die Stimmen, die beobachtet haben, dass ChatGPT bzw. KI Inhalte schlichtweg erfindet. Ein (vergleichsweise) harmloses Beispiel dafür habe ich selbst in unserer Ausgabe von Sicherheits-Berater direkt 2/2023 dokumentiert (direkt.sicherheits-berater.de, Kurzlink https://bit.ly/3ysZTDR). Wenn falsche Antworten oder Auskünfte von Chatbots für bare Münze genommen und verbreitet werden – und damit ist nicht nur in Social-Media-Kanälen sicher auszugehen – droht, als hätte es die Aufklärung nie gegeben, ein Rückfall in beschränkte Erkenntnisfähigkeit des Mittelalters. Dramatische Auswirkungen sind zu erwarten, wenn solche Fakenews zur Grundlage politischer Entscheidungsfindung führten und auf breiter Front zu Zwecken der politischen Propaganda missbraucht würden.
3. Plagiate und Urheberrechtsbetrug
   Wie Chatbots zu ihren Antworten kommen ist in aller Regel nicht nachvollziehbar. Die KI bedient sich des verfügbaren Wissens, stellt Informationen neu zusammen und konstruiert daraus eine Antwort, ohne Quellen zu nennen. KI hat in jüngster Vergangenheit vor allem durch seine Fähigkeit, Plagiate zu erzeugen, auf sich aufmerksam gemacht (von gefakten Texten über nachempfundene Kunst-werke bis hin zu sozusagen wiederauferstehenden virtuellen Personen). Die rechtliche Klärung liegt noch in weiter Ferne. Das deutsche Urheberrecht kennt derzeit nur Menschen als „Schöpfer“ eines Werkes. Wenn das Urheberrecht ausgehöhlt wird und sich die KI ungehemmt sämtlicher Quellen ohne Rücksicht auf Urheberrecht bedient, könnte das die Entwicklung neuer wissenschaftlicher Erkenntnisse, neuer Produkte und Verfahren nachhaltig stören und sich als Hemmschuh für Innovation herausstellen.
4. Identitätsdiebstahl
   KI ist in der Lage, digitale Zwillinge von Personen zu erzeugen auf einer Basis, die selbst deren Verhaltensbiometrie berücksichtigt. Unter Verhaltensbiometrie ist z. B. die Analyse des Benutzerverhaltens zu verstehen. So kann z. B. durch Erfassen der Tippgeschwindigkeit, der Tastenanschläge und Mausbewegungen das normale Verhalten eines Benutzers erkannt und simuliert werden. Perfekte Stimmensynthesen sind z. B. schon durch Stimmproben von wenigen Sekunden Länge möglich.
5. Anleitung zum Verbrechen
   KI stellt dem Menschen Know-how zur Verfügung, an das dieser sonst nie herankäme – zumindest nicht so einfach. Die Anleitung zum Bombenbau, die Checkliste zum Überwinden von Sicherheitssystemen, Hinweise für den perfekten Mord u. v. m. vermitteln Fähigkeiten, die ein Mensch mit kriminellem Potenzial im Normalfall nur bei ausgesprochenem Talent und mit großem Aufwand erwerben könnte. So ist z. B. die Programmierung von Schadsoftware auf Anfrage und in Sekundenschnelle möglich.
6. Staatlicher Missbrauch von KI
   Es ist leider davon auszugehen, dass KI zu Zwecken des staatlichen Terrors bis hin zur Kriegsführung eingesetzt wird, wann immer ein politisches (unkontrolliertes) System dies als zielführend erachtet.

Während bei den aufgeführten Beispielen die KI sozusagen als Täter in Erscheinung tritt, beschreibt Trend Micro Research in einem 80-seitigen Whitepaper „Malicious Uses and Abuses of Artificial Intelligence“ eine Methode, wie die KI selbst zum Opfer von Angriffen werden kann. Darin ist das Beispiel autonom fahrender Autos, die auf die KI-gestützte Auswertung von Videosensorik angewiesen sind, beschrieben: Durch eine (physische) Manipulation von Verkehrsschildern ließen sich massenhaft Autos in die Irre bzw. Falle führen und ein Verkehrschaos auslösen (https://documents.trendmicro.com, Kurzlink https://bit.ly/3YD8myZ).

Fazit

Mit künstlicher Intelligenz ist es wie mit dem Brotmesser: Man kann sie bzw. es sinnvoll zum Wohle der Menschen einsetzen oder jemanden damit ermorden. KI lässt sich gleichermaßen als Instrument für Versicherungsbetrug (z. B. beim Schönen von Schadensmeldungen) als auch zur Bekämpfung von Versicherungsbetrug nutzen. KI wird Angriffe auf Sicherheitssysteme ermöglichen, die sich im besten Falle wiederum nur durch KI-gestützte Sicherheitssysteme abwehren lassen. Das Spiel von Angriff und Verteidigung wird uns auch in der Sicherheitsbranche erhalten bleiben.