Deepfakes und Künstliche Intelligenz – Bedrohung oder Chance?

Deepfakes, so beschreibt Menneke im Forum IT-Sicherheit und IT-Revision 2023, setzt sich aus den Worten Deep Learning und Fake zusammen. Deep Learning ist ein Teilbereich maschinellen Lernens, der auf einem künstlich erzeugten neuronalen Netzwerk basiert. Künstliche Intelligenzen (KI) funktionieren wie Gehirne – je mehr Erfahrungen, desto stärker die Verbindungen zwischen den Neuronen. Bei KIs funktioniert das durch die Verwendung riesiger Datenmengen.

Diese Entwicklung ermöglicht es auditiven und visuellen KIs mittlerweile, menschliche Emotionen wie Verständnis, Bedauern und Freude authentisch auszudrücken. Der Unterschied zwischen Mensch und Maschine wird dadurch nahezu unkenntlich. Technologische Fortschritte ermöglichen KIs sogar, nach einem kurzen Telefonat die Stimmlage und den Sprechduktus zu adaptieren – die auditive Identität kann gestohlen werden.

Menneke warnte eindringlich, dass nahezu alle Arten krimineller Machenschaften durch diese Möglichkeiten realisierbar sind, von Betrug über Erpressung bis hin zu Rufschädigung und sogar Mord. Doch wie können wir uns davor schützen?

Der Dozent empfiehlt Achtsamkeit und das Vertrauen in das Bauchgefühl als Schutzmechanismen. Dadurch können Situationen aufgrund der Erfahrungen besser eingeschätzt werden.

Das Konzept des schnellen und langsamen Denkens, entwickelt von Psychologe Daniel Kahneman, spielt hierbei eine entscheidende Rolle. Schnelles Denken ist intuitiv, automatisch und erfordert geringen Aufwand. Es basiert auf Erfahrung und Intuition und ist nützlich für alltägliche Entscheidungen oder Situationen.

Langsames Denken erfordert eine bewusste Anstrengung oder Konzentration und beinhaltet analytisches Denken, Abwägen von Optionen und das Durchdenken von Entscheidungen, es handelt sich also um Entscheidungen, bei denen man „eine Nacht drüber schlafen muss“.

Die Situationen, in denen Deepfakes eingesetzt werden, wirken zunächst vertraut, das schnelle Denken setzt ein. Der Erfahrungsschatz ist allerdings noch nicht groß genug, um einordnen zu können, ob es sich um Mensch oder Maschine handelt. Menneke rät, öfter zum langsamen Denken zurückzukehren und achtsam zu bleiben.

Dazu gehört auch, nicht allen Dingen Glauben zu schenken, die uns zu Entscheidungen drängen. Phishing Mails greifen die Opfer bei ihren Ängsten und ihrer Gier an. Und ebendieser Angriff wird durch KIs immer gefährlicher, weil er immer passgenauer wird.

Doch in KIs lauern nicht nur Gefahren, sondern auch Chancen, nur muss der Umgang damit noch gelernt werden. Ebenso wie gelernt werden musste, wie man richtig googelt, muss man sich nun dahin entwickeln, richtig mit den KIs umzugehen, denn kein Thema ist in der IT aktuell so präsent wie dieses. Für den richtigen Umgang bedarf es weiterhin kompetentes Fachpersonal, das ein Regelwerk und Rahmenbedingungen für den effektiven Einsatz von KI festlegt und das Kollegium trainiert. Es ergibt keinen Sinn, so Menneke, sich gegen die Entwicklung zu wehren, man muss nur den Weg dahin richtig gehen.