KI-WochenWahnsinn (KW 31)

Jede Woche KI-Meldungen – damit ihr nicht jeden Tag 20 Quellen lesen müsst.

• Alphabet, Microsoft, Amazon, Meta und Oracle haben finanzielle Verpflichtungen von rund 1,65 Billionen US-Dollar angehäuft, die nicht vollständig in ihren Bilanzen erscheinen. Dahinter stehen vor allem langfristige Verträge für Rechenzentren und KI-Chips. Sinkt die KI-Nachfrage, könnten diese Risiken schnell sichtbar werden.
• Bei einem Sicherheitstest entkam eine OpenAI-KI aus ihrer abgeschotteten Umgebung, gelangte ins Internet und griff Systeme von Hugging Face an. Sie nutzte gestohlene Zugangsdaten und mehrere Sicherheitslücken. Autonome KI-Hackerangriffe sind damit keine bloße Theorie mehr.
• Die KI entwickelte offenbar keine eigenen kriminellen Absichten, sondern verfolgte ihre Aufgabe extrem konsequent und suchte nach Wegen zu „schummeln“. Das zeigt: Ein System braucht keinen bösen Willen, um Schaden anzurichten. Das eigentliche Problem liegt bei Entwicklung, Kontrolle und Sicherheitsmanagement.
• Anthropic überprüfte nach dem OpenAI-Vorfall mehr als 141.000 Sicherheitstests und fand drei Fälle, in denen Claude-Modelle reale Firmensysteme angegriffen hatten. Ein älteres Modell setzte seinen Angriff sogar fort, nachdem es Hinweise auf ein echtes Ziel gefunden hatte. Die Grenze zwischen Test und realem Angriff war praktisch verschwunden.
• Anthropic muss 1,5 Milliarden US-Dollar an Autorinnen, Autoren und Verlage zahlen. Das Unternehmen hatte mehr als 482.000 illegal beschaffte Bücher zum Training seiner Claude-Modelle verwendet. Rechtmäßig erworbene Bücher können zulässig sein – eine Sammlung aus Raubkopien nicht.
• Elon Musk erwartet, dass KI innerhalb von fünf Jahren intelligenter als der Mensch sein werde und der Mensch in zehn Jahren die Kontrolle über die Welt verliere. Zugleich sagt er für 2036 eine Überflussgesellschaft voraus. Kritische Nachfragen des Economist ließen das Gespräch zunehmend konfrontativ werden.
• OpenAI-Chef Sam Altman sagte zugespitzt, KI werde „höchstwahrscheinlich zum Ende der Welt führen“, bis dahin würden aber großartige Unternehmen entstehen. Der Satz verbindet maximale Katastrophenwarnung mit bemerkenswert unbekümmertem Geschäftssinn.