Wie viel zu spät kommt der Betrugsschutz der Uni Siegen?

Es ist eine gute Idee, wenn Forschung daran arbeitet, Menschen vor neuen Formen des Betrugs zu schützen. Gerade bei Künstlicher Intelligenz ergeben Schutzmechanismen, Aufklärung und ein besseres Verständnis dafür, wie Kriminelle Vertrauen manipulieren Sinn. Schutzprojekte müssen aber auch einen Bezug zur Realität haben. Schon bisher war es oft so, dass Verbrechen schneller war als Strafverfolgung, Prävention oder Verbraucherschutz. In Zeiten von KI bekommt dieser alte Abstand allerdings eine völlig neue Geschwindigkeit. Was heute noch wie Zukunft klingt, ist morgen schon als App verfügbar, übermorgen automatisiert und kurz darauf Teil alltäglicher Betrugsmaschen. Dieser Zeitfaktor scheint sich allerdings noch nicht bis zum Bundesministerium für Bildung und Forschung (BMBF) herumgesprochen zu haben, wenn man betrachtet, wann etwa ein Schutzprojekt der Universität Siegen fertig werden soll.

Die Universität Siegen erforscht im Projekt „AntiScam“, wie sich Menschen vor KI-gestützten Betrugsmaschen schützen lassen. Im Zentrum stehen sogenannte „Conversational Scams“, also digitale Betrugsversuche, die wie echte Gespräche wirken. Besonders gefährlich ist dabei Voice Phishing: Betrüger geben sich am Telefon als Familienmitglied, Bank, Behörde oder andere vertraute Stelle aus. Mithilfe Künstlicher Intelligenz können Stimmen inzwischen so nachgeahmt werden, dass Betroffene kaum noch erkennen, ob sie mit einem echten Menschen oder mit einer Maschine sprechen. Persönliche Informationen aus sozialen Netzwerken oder Datenlecks machen solche Anrufe zusätzlich glaubwürdig.

Das Projekt „AntiScam“ wird vom BMBF gefördert, hat ein Volumen von rund 1,4 Millionen Euro und wird von der Universität Siegen koordiniert. Kooperationspartner sind die Hochschule Bonn-Rhein-Sieg und das Siegener Unternehmen open.INC. Die Forschenden wollen unter anderem eine Bedrohungskarte KI-gestützter Gesprächsbetrugsformen erstellen, typische Angriffsmuster erfassen und technische Erkennungssysteme entwickeln. Ein KI-Modell soll echte von künstlich erzeugten Stimmen unterscheiden können. Trainiert wird es mit mehreren tausend Sprachaufnahmen menschlicher Sprecherinnen und Sprecher sowie KI-generierten Stimmen. Dabei sollen akustische Merkmale erkannt werden, die Menschen kaum wahrnehmen können: ungewöhnliche Gleichförmigkeit, fehlende Atemgeräusche oder unnatürliche Modulationsmuster.

Gleichzeitig setzt das Projekt nicht nur auf Technik, sondern auch auf Aufklärung. Geplant sind interaktive Lernangebote und ein Lernspiel, mit denen Verbraucherinnen und Verbraucher typische Betrugsstrategien kennenlernen und trainieren sollen. Außerdem werden rechtliche Fragen rund um KI-Betrug, Deepfakes und digitalen Verbraucherschutz untersucht. All das klingt sinnvoll. Es ist richtig, dass klassische IT-Sicherheit allein nicht mehr ausreicht, wenn Kriminelle gezielt mit Angst, Druck, Nähe und Vertrauen arbeiten.

Selbstverständlich gilt es also anzuerkennen, was die Universität Siegen hier macht. Das Thema ist relevant, die Richtung stimmt, und Forschung zu KI-Betrug ist notwendig.

Aber: Eine Software, die erst Ende 2027 verfügbar sein soll, ist in diesem Feld ein unrealistisch langsamer Zeitrahmen. Man mag gar nicht erst mit den Szenarien anfangen, die einige Akteure mit Blick auf KI bis Ende 2027 bereits vorbereiten.

Sicher ist: Bis dahin werden Betrug, Voice Cloning und die Nachahmung vertrauter Stimmen ein ganz anderes Ausmaß erreicht haben. Wenn Schutzmechanismen erst dann kommen, wenn die Betrugsindustrie längst mehrere Entwicklungssprünge weiter ist, bleibt die entscheidende Frage: Wie viel zu spät kommt dieser Schutz?