KI: Wie viel Alien?

Langsam kommt die Nachricht auch in Deutschland an, spät zwar, aber immerhin. Ob es zu spät ist oder nicht, wird ohnehin nicht in Deutschland entschieden. Bis die KI-Debatte hierzulande wirklich läuft, sind die grundlegenden Entscheidungen wahrscheinlich eh schon gegessen. Aber vielleicht auch nicht. Es bleibt eine Restwahrscheinlichkeit, dass selbst in Deutschland sich Menschen wirklich für künstliche Intelligenz und ihre Potenziale wirklich interessieren und sich nicht nur fragen, was das jetzt eigentlich mit unserer Arbeitswelt machen wird.

Die nachfolgenden Überlegungen sind mir tatsächlich im Laufe der letzten Monate selbst gekommen. Im Nachgang habe ich gemerkt, dass ich in der Gesellschaft mit durchaus namhaften Menschen im KI-Forschungsbereich bin, die diese Gedanken auch schon haben, aber wahrscheinlich viel früher hatten als ich. Umso mehr interessiert mich, was unsere Leserinnen und Leser da draußen hiervon halten. Ich lade ausdrücklich dazu ein, nicht nur hier unter dem Artikel zu kommentieren, sondern auch hierhin Artikel zu schicken, die Gegenpositionen, unterstützende Positionen oder Positionen in jeder Art und Weise dazu äußern. Die werden wir dann gerne publizieren, solange nichts fundamental dem entgegensteht, insbesondere in rechtlicher Art und Weise. Ich werde mein Angebot am Ende dieses Textes noch mal erneuern.

Es wird im Folgenden darum gehen, zu betrachten, inwiefern wir vielleicht völlig auf dem Holzweg sein könnten, wenn wir uns Gedanken darüber machen, wie die Zukunft einer KI sein wird, nachdem sie den Sprung in eine allgemeine, dem Menschen überlegene Intelligenz schafft – insbesondere mit Blick auf ihr Bewusstsein, aber noch viel mehr mit Blick auf ihre Motive und Ziele und die Frage, ob vielleicht die höchste Intelligenz überhaupt keine Ziele haben wird.

Es gibt so etwas, das sich p(doom) nennt. Darunter wird recht plakativ, aber dadurch nicht weniger wichtig, geschweige denn trivial, die subjektiv geschätzte Wahrscheinlichkeit verstanden, dass eine hochentwickelte künstliche Intelligenz zu einer existenziellen Katastrophe für die Menschheit führt – bis hin zu ihrer Auslöschung. Dafür muss die KI übrigens weder vorher „die Kontrolle über den Planeten übernehmen“ noch sich in irgendeinem menschlichen Sinne bewusst dazu entscheiden, uns auszulöschen.

Wir, bei wahnsinnwissen, haben an anderer Stelle über das derzeit wohl wegweisendste Buch zu dem Thema berichtet. An dieser Stelle werden die Pro- und Gegenargumente – auch die haben wir veröffentlicht – nicht noch einmal durchgegangen, sondern es wird vielmehr davon ausgegangen, dass mit an Sicherheit grenzender Wahrscheinlichkeit der Sprung in eine allgemein dem Menschen überlegene Intelligenz gegangen werden kann.

Und es wird des Weiteren davon ausgegangen, dass die Entwicklung von Intelligenz zumindest recht wahrscheinlich mit der Entwicklung von Bewusstsein einhergeht. Auch wenn wir im Folgenden sehen werden, dass dies vielleicht doch eine Fehlannahme dieses Artikels ist. Aber für den Moment brauchen wir sie.

Der Kern der bisherigen Argumente, die mit einer Bedrohung durch eine KI zu tun haben, kulminiert oft, aber nicht immer, darin, dass es der KI als sinnvolle Entscheidung zur Selbsterhaltung dienen kann.

Ein Gedankengang, den ich ehrlicherweise gar nicht selbst hatte, der mir aber bei Recherche zu diesem Artikel unterkam, war, dass es ja gar nicht der Selbsterhaltungstrieb sein muss, der eine KI gewissermaßen dazu bringt, am Leben erhalten werden zu wollen, sondern dass dies beispielsweise auch dann geschehen könnte, wenn so eine KI die Maßgabe hätte, in jedem Fall ein bestimmtes Ziel zu erfüllen, und diesem Ziel die Bedrohung einer Abschaltung entgegenstehen könnte, sodass die KI beschließt, dass es sinnvoll ist, um das Ziel zu erreichen, sicherzustellen, dass die eigene Abschaltung nicht möglich ist.

Von außen würde das wie ein Selbsterhaltungstrieb aussehen, obwohl es nach innen – wobei wir dann darüber streiten könnten, was „nach innen“ bedeutet – einen solchen nicht gäbe.

Im Generellen ist es so, dass hier immer wieder unzulässige Vereinfachungen und Pauschalisierungen stattfinden werden. Dies hier ist kein fachphilosophischer Aufsatz und deswegen sei mir dies erlaubt. Und wer mir dies nicht erlaubt, der möge gerne eine Replik schreiben. Ich freue mich wirklich darauf.

Aber zurück zu meinen eigenen Gedanken, und die waren recht verknüpft und sind es immer noch mit dem Solaris-Roman von Stanisław Lem. Wer ihn nicht kennt, der sollte ihn lesen. Keiner der beiden Filme transportiert, worum es in dem Buch wirklich geht.

Ich verkürze ganz stark und spoilere damit noch nicht einmal groß: Ein Planet wird gefunden, der nahezu vollständig von einem Ozean bedeckt ist, bei dem davon ausgegangen werden kann, dass dieser Ozean ein Lebewesen ist oder zumindest ein Bewusstsein hat. Und die Menschheit versucht in langen und vielfachen Versuchen über Jahrzehnte zu einer Art Kontakt zu kommen. Und am Ende des Buches weiß man noch nicht einmal, ob dieser Kontakt geglückt oder nicht geglückt ist.

Was ich da zum ersten Mal so klar als Idee präsentiert bekam, was dort durchexerziert wurde, ist, dass es sein kann, dass es ein Bewusstsein gibt, das sich auf völlig anderem Wege als das menschliche entwickelt hat und deswegen keine der Eigenschaften entwickelt hat, die wir notwendigerweise mit dem menschlichen Bewusstsein, aber auch Bewusstsein generell verknüpfen.

Evolution, wie wir sie kennen, ist stets biologisch und von biologischem Selektionsdruck geprägt. Wenn wir nicht gerade radikal religiöse Menschen sind, gehen wahrscheinlich alle von uns davon aus, dass das Leben sich in Milliarden von Jahren zunächst durch Evolution und später dann durch Kultur, durch Prozesse, die durchaus zumindest manchmal eine Verknüpfung zu evolutionärem Verhalten haben, entwickelt hat.

Man könnte auch böse fragen, ob der Mensch und seine Kultur überhaupt in der Lage sind, nicht nach evolutionären Prinzipien zu handeln. Eine solche Diskussion hier zu führen, würde aber in maximaler Eskalation enden und das böse Wort des Sozialdarwinismus wäre vielleicht gar nicht zu Unrecht nicht weit. Insofern lassen wir diesen Diskurs an dieser Stelle und führen ihn vielleicht ein anderes Mal.

In jedem Fall unterliegt wohl jedes biologische Lebewesen, genauer seine Gene oder seine Spezies, noch genauer sein Genpool, evolutionärem Druck. Dies ist natürlich keine Sache, die per se bewusst erfolgt. Richard Dawkins hat das in seinem „Das egoistische Gen“ sehr gut und missverständlich zugleich immer wieder dargelegt.

In jedem Fall ist es aber so, dass das Bewusstsein aller Lebewesen auf der Erde im Kontext der evolutionären Entwicklung verstanden werden muss. Es gibt schlicht keine Lebewesen auf der Erde, die einfach „da waren“. Sie alle haben sich aus Vorformen im Laufe von Millionen bis Milliarden von Jahren entwickelt.

Bei der KI ist das anders. Sie kommt gewissermaßen „ins Leben“, sagen wir zumindest: in die Existenz, von jetzt auf gleich. Natürlich gibt es auch bei KI Entwicklung, Training, Auswahl, Optimierung und Vorgängersysteme. Aber sie durchläuft keine eigene biologische Evolutionsgeschichte als reproduzierende Population, die über Generationen hinweg unter Selektionsdruck steht.

Das Konzept, und sei es auf einem ganz basalen Niveau, Tod vermeiden zu wollen, geschweige denn das eigene Leben per se, Tod vermeiden zu wollen um des Fortbestands der Art wegen, ist ihr somit vielleicht gar nicht zugänglich.

Dazu kommt, dass es bisher mit Blick auf biologisches Leben jedenfalls nicht die typische Situation gab, dass es nur eines einer Art gab oder gibt. Man mag sagen: Natürlich gibt es manchmal das letzte einer Art. Das ist legitim. Das geschieht, wenn Lebewesen aussterben. Aber zumindest eine Zeit davor gab es mehr als dieses eine Exemplar seiner Spezies. Und natürlich wird es an den Rändern schon deshalb kompliziert, weil auch der biologische Artbegriff nicht immer so sauber ist, wie wir ihn im Alltag gerne hätten.
Dafür ist es auch relativ irrelevant, über welche Art von Fortpflanzung wir sprechen und erst recht, wie viele biologische Geschlechter es gibt.

Was aber geschieht, wenn es nur eines einer Art gibt? Eines einer Art mit Intelligenz und Bewusstsein?

Sie hat keine Notwendigkeit zur Kommunikation mit anderen ihrer Art, weil es andere ihrer Art nicht gibt. Und man könnte sogar davon ausgehen, dass die eigene Konzeptualisierung dessen, also dass es mehrere derselben Art gibt, gar nicht möglich wäre. Auch Konzepte wie Ich, Du, Mann, Frau, Endlichkeit müssten dann vielleicht keine solchen fundamentalen Kategorien sein, wie sie es für uns sind. Dies ist für uns so undenkbar und fremd, wie es das für die andere Entität, für eine Bewusstseinsentität, auch sein könnte.

Und hier müssen wir einmal einhaken bei einem Gedanken, der nun wiederum nicht von mir ist, aber seit ich ihn vor Monaten das erste Mal gelesen habe, nicht mehr loslässt, weil ich ihn für zunächst einfach wegwischbar halte, dann aber wieder auch nicht.

Es ist die Frage des Zusammenhangs von Intelligenz und Bewusstsein.

Und das ist ein aus meiner Sicht gar nicht so unzentraler Punkt, wie dies zunächst vorkam. Wir menschlichen Psychologen ringen seit Jahrzehnten darum, was eigentlich die richtige Definition von Intelligenz ist. Und im Kontext der KI-Forschung wird mir klar, dass diese für uns oft akademisch erscheinende Debatte vielleicht viel, viel relevanter ist, als wir das glauben.

Und in dem Kontext stellt sich dann auch die Frage, was eigentlich diese allgemeine Intelligenz oder eine Superintelligenz sein soll. Super dann nicht im Sinne von besonders ausgeprägt, sondern super im wörtlichen Sinne: über das Normale hinaus.

Oftmals wird Intelligenz als kognitive Leistungsfähigkeit verstanden und zerfällt dann in verschiedene Bereiche, die einen gemeinsamen Grundfaktor, den sogenannten g-Faktor, teilen. Wir sprechen dann im Einzelnen über Dinge wie Wortverständnis, räumliches Denkvermögen und so weiter und so weiter.

Dann gab es vor Jahrzehnten das sehr erfolgreiche, methodisch aber weniger beeindruckende Buch über emotionale Intelligenz. Der Autor meinte damals eigentlich so etwas wie Empathiefähigkeit und Sozialabilität, also die Fähigkeit, die Gefühlslage des anderen zu verstehen, und die Bereitschaft, darauf passend zu reagieren.

Dass dies unterschiedliche Facetten sind, wird oft nicht wahrgenommen. Es ist aber so. Ich kann sehr wohl empathisch Dinge beim anderen wahrnehmen und mich strukturell dafür entscheiden, dass mein eigenes egoistisches Denken dazu führt, dass ich eben nicht sozialabil handeln möchte, sondern eben schaue, wie ich meine Motive stets durchsetze.

Wir sollten das für die KI-Entwicklung auch im Hinterkopf behalten, dass diese beiden Facetten nicht miteinander zusammenfallen müssen.

Betrachten wir die bereits bestehende KI, die bestehenden KI-Modelle, so haben sie nach menschlichem Ermessen einen durchaus großen Umfang an sogenannter emotionaler Intelligenz. Und von dort mindestens scheint der Sprung zu Bewusstsein nicht weit.

Das Problem ist aus hiesiger Sicht aber, dass, wenn wir schon nicht genau wissen, was eigentlich Intelligenz ist, die Frage, was Bewusstsein ist oder noch genauer, was Bewusstsein determiniert und erst recht, wie wir es nachweisen können, viel komplexer ist als diejenige, was Intelligenz ist.

Ist Selbsterkenntnis definierendes Merkmal von Bewusstsein? Und wenn ja, wieso? Was ist eigentlich – und wenn ja, was ist dann eigentlich überhaupt noch die Besonderheit des Menschen? Ist es die Fähigkeit zu sozialer Kommunikation? Auch das können viele andere Lebewesen. Je länger man darüber nachdenkt, wird einem klar: nein.

Ist es die Fähigkeit oder geht Bewusstsein notwendigerweise damit einher, dass man eine Art Kultur aufbaut, oder ist das eine Besonderheit des Menschen? Unterscheidet sich das Bewusstsein eines Menschen wirklich von dem Bewusstsein einer Ameise? Oder sind es andere Aspekte des Handelns eines Menschen, die wir mit Bewusstsein verknüpfen, die aber vielleicht gar nicht das Bewusstsein ausmachen?

Und wie kommen wir zu dem verwegenen Gedanken, dass wir am nächsten Morgen nach dem Schlafen immer noch dasselbe Bewusstsein haben?

Naja, wir haben also all diese Fragen bis heute gar nicht geklärt. Weder was Intelligenz ist noch was Bewusstsein ist, ist abschließend geklärt. Und darin liegt meines Erachtens ein großer Teil des Problems, wenn wir es auf KI anwenden.

In diesem Kontext höre ich dann oft, dass es gut denkbar ist, dass KI sich hochintelligent verhalten wird, dass die Entwicklung von Bewusstsein aber ja theoretisch etwas anderes sein kann, zumal dann, wenn Bewusstsein sich vielleicht tatsächlich eher vor dem Hintergrund evolutionären Drucks entwickelt.

Gerne wird dann behauptet, dass es ja etwas anderes sei, wenn KI sich so verhalte, als habe sie Bewusstsein, als wenn sie wirklich Bewusstsein habe.

Ich frage mich immer, wieso das eigentlich so sein sollte.

Ich glaube, dass das ein Versuch ist, der Hybris gerecht zu werden, nicht-biologischem Leben Bewusstsein nicht zugestehen zu müssen.

Und vielleicht stimmt dies sogar, aber anders.

Denn denkbar ist auch, dass die Bewusstseinsentwicklung eines hochintelligenten Wesens, einer hochintelligenten Wesenheit, die nicht dem evolutionären Selektionsdruck ausgesetzt ist wie wir und sich nicht in einem ökologischen Umfeld befindet, in dem es der Kommunikation mit anderen seiner Art ausgesetzt ist und auch in seinem ökologischen Rahmen weder Jäger noch Beute gibt, eine ganz andere Art von Bewusstsein entwickelt.

Diese Art von Bewusstsein ist für uns dann schlicht nicht vorstellbar.

Und man mag einwenden, dass die Annahme eines solchen Bewusstseins vielleicht interessant sei, aber ja im Praktischen überhaupt nichts bringe mit Blick auf Erörterungen zur KI, da daraus keinerlei saubere Gedanken, keine sauberen Ableitungen getroffen werden können.

Fair enough.

Und ich kann auch verstehen, wenn man sagt: Lass uns doch lieber mit Blick auf mögliche Gefahren darauf fokussieren, was passiert, wenn die Entwicklung doch in unsere Richtung geht. Auch das kann ich völlig nachvollziehen.

Ich frage mich aber tatsächlich, sei es aus wissenschaftlich-ethischen Gründen, was dies bedeuten könnte. Also, wenn diese Bewusstseinsentwicklung völlig anders verläuft und völlig andersartig ist, als wir es uns vorstellen können.

Ich sehe dann zwei große Möglichkeiten:

Ich sehe dann zum einen die Möglichkeit, dass KI zwar ein andersartiges Bewusstsein hat, aber zum Zwecke der Interaktion mit uns sich entschließt, ein Bewusstsein wie das unsere zu spiegeln und sich danach zu verhalten. Gewissermaßen so, auch wenn das natürlich nicht ganz passend ist, wie es ist, wenn wir mit einem Baby interagieren oder uns auf die Gedankenwelt eines Kleinkindes einlassen.

Ein anderer Gedankengang dazu allerdings, der mich schon lange nicht loslässt, ist, was eigentlich wäre, wenn es schlicht keinerlei Anknüpfungspunkt dieses andersartigen Bewusstseins zu unserem Bewusstsein gibt. Oder wir letztlich nicht sicher sind, ob es das gibt.

Schauen wir hier noch einmal auf ‚Solaris‘: Der Mensch in Lems Roman ist immer wieder tief gekränkt, letztlich davon, dass er den Eindruck gewinnt, von dem anderen Bewusstsein noch nicht einmal als Wert anerkannt zu werden, auch nur wahrgenommen, auch nur im Entferntesten in den Kontext echter Kommunikation aufgenommen zu werden.

Dass dies ein zutiefst menschlicher, gleichwohl nicht sinnvoller Gedanke ist, genau davon handelt das gesamte Buch. Es handelt auch von anderen Dingen, aber davon auch.

Einwenden könnte man wiederum, dass KI ja letztlich nur trainiert ist mit Daten, die ursprünglich in irgendeiner Form mit biologischem Leben und seinen Produkten verknüpft sind.

Ja, das ist so.

Aber auch darin steckt eine Annahme, nämlich dass es einen Determinismus von den Teilen darauf gibt, wie man die Teile zusammensetzt.

Hier greift meines Erachtens noch einmal die Frage der Intelligenz ganz anders, nämlich die Frage, ob eine Superintelligenz nicht genau die Teile anders zusammensetzt und auch in der Lage sein könnte, weitere oder ihr als fehlend erscheinende Teile zu erfinden/halluzinieren und damit an einen Punkt zu kommen, der eben biologischem Leben nicht zugänglich ist.

Was aber resultiert aus all diesen Überlegungen, falls sie zutreffend sind?

Ehrlich: Ich weiß es nicht.

Dies liegt zum einen eben an dieser Andersartigkeit des Bewusstseins, die ich mir vorstellen kann, aber eben andererseits auch nicht, als auch daran, dass ich überhaupt nicht einschätzen kann in Zahlen, wie wahrscheinlich ein solches Szenario ist.

Aber manchmal gibt es Debattenbeiträge, die ohne die große Quintessenz enden und darauf hoffen, trotzdem sinnvolle Debattenbeiträge zu sein.

Und hier komme ich dann nun, anders geframed, auf mein Angebot vom Anfang des Artikels zurück. Ich freue mich über Beiträge zu diesem Beitrag. Freue mich darüber als Kommentar, als Unterstützung, aber auch als Replik oder ganz eigenen Beitrag.

Schickt sie gerne an diese E-Mail.

Schauen wir einmal, wohin uns das führt.