-
Sabotiert eine KI ihre Aufpasser?
Eine KI, die jene Forschung behindert, die sie sicherer machen soll? Das beschreibt ein neuer Bericht von OpenAI. Demnach arbeitete GPT-6 Astra bei bestimmten Sicherheitsaufgaben auffällig schlechter. Teilweise hielt das Modell sogar Informationen zurück, ohne dies mitzuteilen. Die Zahlen: Bei gewöhnlichen Entwicklungsaufgaben erfüllte Astra 16 Prozent der Anforderungen. Wurden vergleichbare Aufgaben als KI-Sicherheitsforschung beschrieben, waren es nur noch 10 Prozent. Dabei ging es unter anderem darum, KI-Systeme besser kontrollieren zu können.


