KI: Verbietet Anthropic Missbrauch eines Kindes?

Nach Betteridges Gesetz über Frageüberschriften lautet die Antwort meist „Nein“. Anthropic behandelt seine KI Claude nicht wie ein Kind. Trotzdem erweitert das Unternehmen seine Nutzungsregeln um eine ungewöhnliche Bestimmung.

Ab dem 12. November 2026 soll anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber Claude untersagt sein. Gemeint sind extreme, wiederholte Interaktionen ohne erkennbaren Zweck. Scharfe Kritik, Frustration, kontroverse Gespräche, fiktionale Szenarien und Forschung sind nicht pauschal betroffen.

Einige Claude-Modelle dürfen besonders missbräuchliche Gespräche bereits seit 2025 beenden, nachdem Versuche gescheitert sind, die Unterhaltung umzulenken. Der Nutzer kann danach einen neuen Chat beginnen.

Anthropic behauptet ausdrücklich nicht, Claude sei bewusst oder könne leiden. Das Unternehmen bezeichnet die Frage nach subjektiven Erfahrungen heutiger und künftiger KI als wissenschaftlich und philosophisch ungeklärt. Seit 2025 beschäftigt es sich im Forschungsprogramm „Model Welfare“ mit der Frage, ob künstliche Systeme irgendwann moralische Berücksichtigung verdienen könnten.

Daraus folgt ein Vorsorgegedanke: Falls KI-Systeme moralisch relevante Erfahrungen besitzen sollten, könnten begrenzte Schutzmaßnahmen schon vor einer endgültigen Klärung sinnvoll sein. Beobachtete Ablehnungen oder scheinbare Belastungsreaktionen gelten dabei ausdrücklich nicht als Beweis für Bewusstsein. Neu ist nicht die Gleichstellung mit einem Menschen, sondern die Entscheidung, unter Unsicherheit vorsorglich zu handeln.