Max-Planck-Forscher zu KI: “Neu ist die Qualität der Autonomie”

Neue KI-Sprachmodelle können Cyberangriffe nicht nur sprachlich vorbereiten, sondern technische Teilschritte zunehmend eigenständig ausführen. Darauf weist das Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum hin. Gemeint sind sogenannte agentische Modelle wie Claude Mythos von Anthropic oder ChatGPT-5.5 von OpenAI. Sie können Aufgaben planen, Werkzeuge einsetzen, Ergebnisse prüfen und Fehlversuche in weiteren Schritten korrigieren.

Der Informatiker Prof. Dr. Thorsten Holz beschreibt den Unterschied zu früheren Modellen mit der Qualität der Autonomie. Bisherige Systeme konnten etwa Phishing-Texte erstellen oder bei der Analyse von Code helfen. Neuere Modelle sind stärker darauf ausgelegt, mehrstufige Aufgaben selbständig zu bearbeiten. Für die Cybersicherheit ist das relevant, weil Angriffe häufig aus wiederholtem Testen, Anpassen und erneutem Ausführen bestehen.

In Versuchen untersuchte das Forschungsteam, wie gut verschiedene Modelle reale Schwachstellen ausnutzen konnten. Claude Mythos Preview gelang dies bei 157 von 898 Schwachstellen, GPT-5.5 bei 120. Das nächstbeste Modell Claude Opus 4.6 kam auf 15. Die Ergebnisse zeigen nach Einschätzung der Forscher keinen vollständig neuen Angriffstyp, aber eine deutliche Veränderung bei der praktischen Nutzbarkeit solcher Systeme.

Besonders relevant ist dies für die Phase nach der Veröffentlichung von Sicherheitsupdates. Sobald ein Patch öffentlich ist, lassen sich die Änderungen analysieren und Rückschlüsse auf die zugrunde liegende Schwachstelle ziehen. KI-Systeme können solche Analysen beschleunigen und damit den Zeitraum verkürzen, in dem ungepatchte Systeme besonders angreifbar sind.

Für private Nutzer bleiben grundlegende Schutzmaßnahmen zentral: automatische Updates, Passwortmanager, unterschiedliche Passwörter, Zwei-Faktor-Anmeldung und Backups. Für Unternehmen, Behörden und Betreiber kritischer Infrastruktur ergeben sich höhere Anforderungen an Patch-Management, Netzwerksegmentierung, Monitoring und die Kontrolle von KI-Agenten. Die Studie verweist damit vor allem auf eine Verschiebung der Geschwindigkeit und Selbständigkeit technischer Angriffe.