Menschen zu benutzen, um in technische Systeme einzudringen, ist spätestens seit Kevin Mitnicks Buch “Die Kunst der Täuschung” als Social Engineering bekannt. Ich habe in meiner Weiterbildung zum Linux Systemadministrator zum ersten Mal davon erfahren und das Buch mit Begeisterung gelesen.
Beverly Hills Cop
Die Angriffe Mitnicks kamen mir aber auch schon in ihrer Art bekannt vor. Axel Foley, die Hauptfigur in der Filmreihe “Beverly Hills Cop”, die ich in meiner Jugend sehr gemocht habe (auch den Soundtrack auf Vinyl habe ich immer noch…), gibt in verschiedenen Situationen Beispiel von Social Engineering, die mich sehr beeindruckt haben.
Prompt Injections
Aktuelle KI-Systeme üben einen ganz neuen Reiz aus. Sie anzugreifen erfordert neue Techniken, die auch schon entsprechende Namen erhalten haben. Prompt Injection (hier eine umfangreichere Erklärseite) ist der allgemeine Begriff, der die Art der Konversation bezeichnet, die Menschen mit Large Language Models (LLMs) führen, um Dinge zu erfahren, die ein Chatbot eigentlich nicht preisgeben soll.
Parasocial Engineering
Als parasozial gelten Beziehungen, die Menschen zu Medienakteuren unterhalten. Zählt man ChatGPT und ähnliche “Kameraden” (Doris Weßels) zu solchen Akteuren, liegt der Schluss nicht fern, Angriffe auf diese als Parasocial Engineering zu bezeichnen, da das Medium Sprache und die Mittel der Täuschung denen zwischen menschlichen Akteur*innen sehr ähnlich sind.
Während Chatbots ohne Internetanbindung ggf. nur Dinge ausplaudern, die gefährlich sind, wenn Menschen sie aktiv weiterverwenden, sind Angriffe dieser Art auf KI-Agenten von größerer Reichweite, da sie ggf. eine konkrete Wirkung in anderen IT-Systemen entfalten (Gates, 2023).
Referenzen
Gates, B. (2023, November 9). AI is about to completely change how you use computers. gatesnotes.com. Persönliches Blog, . Zugriff am 29.1.2024. Verfügbar unter: https://www.gatesnotes.com/AI-agents