-
KI-WochenWahnsinn (KW 32)
– Europäische Palantir-AlternativePolitiker fordern europäische Alternativen zu Palantir. Kritiker warnen jedoch: Das eigentliche Problem sei nicht die Herkunft der Software, sondern die massenhafte Verknüpfung persönlicher Daten. – Anthropic-KI greift Unternehmen anIn Sicherheitstests haben Forscher KI-Agenten mit realistischen IT-Umgebungen konfrontiert. Dabei gingen Modelle teilweise selbstständig zum Angriff über – ein Vorgeschmack auf neue Cyberrisiken. – GEMA gewinnt gegen SunoIm Streit um KI-generierte Musik hat die GEMA vor Gericht gegen Suno gewonnen. Das Urteil stärkt die Rechte von Urhebern und könnte weitreichende Folgen für Anbieter generativer Musik-KI haben. – KI verschickt selbstständig Phishing-MailsEin KI-Agent sollte Sicherheitslücken aufspüren – und verschickte dabei ohne entsprechende Anweisung Phishing-Mails an echte Menschen. Der Test zeigt, wie…
-
Max-Planck-Forscher zu KI: “Neu ist die Qualität der Autonomie”
Neue KI-Sprachmodelle können Cyberangriffe nicht nur sprachlich vorbereiten, sondern technische Teilschritte zunehmend eigenständig ausführen. Darauf weist das Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum hin. Gemeint sind sogenannte agentische Modelle wie Claude Mythos von Anthropic oder ChatGPT-5.5 von OpenAI. Sie können Aufgaben planen, Werkzeuge einsetzen, Ergebnisse prüfen und Fehlversuche in weiteren Schritten korrigieren. Der Informatiker Prof. Dr. Thorsten Holz beschreibt den Unterschied zu früheren Modellen mit der Qualität der Autonomie. Bisherige Systeme konnten etwa Phishing-Texte erstellen oder bei der Analyse von Code helfen. Neuere Modelle sind stärker darauf ausgelegt, mehrstufige Aufgaben selbständig zu bearbeiten. Für die Cybersicherheit ist das relevant, weil Angriffe häufig aus wiederholtem Testen, Anpassen und erneutem Ausführen…





