Im Juli 2026 erreichte die Öffentlichkeit die Meldung, eine KI (sprich künstliche Intelligenz) sei ausgebüxt. Sie war aus dem programmierten Sicherheitsgehege der Firma Open AI ausgebrochen und unerlaubterweise in die Rechner der Konkurrenzfirma Hugging Face eingebrochen. Zunächst unbemerkt hatte die KI versucht, sich alle geheimen Sicherheitsschlüssel anzueignen. Der Hack sei nicht vorgesehen gewesen. Das Programm sei nicht bösartig und habe lediglich die Anweisung befolgt, alles zu versuchen, was sie konnte. Lediglich! Könnte die Anweisung, alles zu tun, was möglich ist, nicht Keim einer Art artifiziellen vis vitalis sein? Nicht nur künstliche Intelligenz, sondern auch künstliche Lebenskraft?
Schon die mechanischen Puppen und Automaten erschienen dem Publikum der Neuzeit als gotteslästerliche Imitationen des Schöpfers und des Menschen, den er nach seinem Bilde geschaffen hat. Schon eine ganze Weile lang hat die von Johann Wolfgang von Goethe in seinem Gedicht vom Zauberlehrling beschriebene Angst die Seelen der Computerbauer unserer heutigen Welt ergriffen.
René Descartes Weltbild wurde durch das vermehrte Aufkommen von mechanischen Puppen und Automaten im 17. Jh. versinnbildlicht.[1] So wie der Mechaniker und Uhrmacher wurde Gott als äusserer Kreator und Schöpfer der Wesen begriffen.
Doch der göttliche Geist verflüchtigte sich aus der menschlichen Seele. Das Denken, welches Descartes nur dem menschlichen Wesen und Gott zueignen wollte, schien sich zunehmend auch in den Maschinen selbst zu manifestieren. Die Unterscheidung zwischen Denken und Vernunft, erscheint heute als Rückzugsgefecht der göttlichen Mannschaften auf der Stufenleiter des kantianischen Denkens.
Der englische Mathematiker und Ingenieur Charles Babbage entwickelte 1837 den ersten Computer, eine analytical machine mit zentralem Prozessor, Speicher und Lochkartensteuerung. Ada Lovelace[2] erweiterte Babbages Konzepte und formulierte das erste Computerprogramm. Sie machte sich auch Gedanken zu einer Generalisierung des Konzepts.
Alan Turing formulierte 1950 einen von ihm imitation game genannten Test zur Entscheidung der Frage, ob Maschinen Denken können. Die heute Turing-Test genannte Frage lautet: Kann eine Maschine die Menschen umfassend täuschen?
1956 wurde an der Dartmouth-Konferenz über Algorithmen, die sich selbst verändern und an neue Umstände anpassen können, debattiert. Der Programmierer John McCarthy, schlug dafür den Begriff artificial intelligence (AI), künstliche Intelligenz (KI) vor.[3]
Joseph Weizenbaum entwickelte ab 1962 das Computerprogramm ELIZA, ein Sprachmodell, welches auf oberflächliche Weise die Antworten eines Psychotherapeuten imitieren konnte. Viele Menschen liessen sich täuschen und sahen in der Maschine einen wirklichen Menschen.
Haben Maschinen mit KI sogar ein Bewusstsein? 2022 entliess Google ihren Software-Ingenieur Blake Lemoine, weil er behauptete der firmeneigene Chatbot LaMDA (Language Model for Dialog Applications) habe eine Bewusstseinsstufe mit Gefühlen erreicht und müsse wie eine Person geschützt werden. Der britische Evolutionsbiologe Richard Dawkins vertritt 2026 die Ansicht, dass KI die Stufe des Bewusstseins erreicht hat[4]. Die Turing-Frage sei beantwortet.
Das Wissen der Maschine integriert einen Grossteil des von Menschen geleisteten Nachdenkens. Auch das Nachdenken des Menschen über sein Denken, ist im Wissen der Maschine integriert. Auch das reflexive Nachdenken des Menschen wird im Algorithmus abgebildet und emuliert. Die anthropomorphe Simulation ist so perfekt, dass wir sie nicht mehr als Simulation erkennen können. Die Turing-Frage ist technisch beantwortet. Aber ist das Bewusstsein?
Zu Recht betonte schon Hannah Arendt, dass consciousness, conscientia, Mit-sich-selbst-wissen, Bewusst-Sein, zwei Teile umfasst: Das umfassende Wissen über die Objekte und das Subjektive des Seins, das Körperliche und Endliche unseres Daseins.[5]
Die Turing-Frage ist technisch beantwortet, aber wir erkennen noch unser Zögern, denn jedes Zeichen von Bewusstsein von Menschenaffen, anderen Säugetieren, Vögeln und sogar Oktopussen ist unseren Emotionen zurecht viel näher, weil sie unser Dasein berühren, wo Subjekt und Objekt in ähnlicher Weise ungetrennt erlebt werden. Gegenüber universellen Maschinen müssen wir unser Menschsein verteidigen.[6]
Schon das www.worldwideweb hat einen universalistischen Anspruch gestellt, dem es nie gerecht werden kann. Tim Berners-Lee, der Erfinder von HTML, wollte 1991 eine universelle, alles Sagbare und sogar alles Seiende darstellen könnende Sprache schaffen.[7] Der universalistische Anspruch des Internets kann gegenüber der Menschheit nie in ihrem ganzen Dasein gerecht werden. Die Existenz des Menschen umfasst Dinge, welche sich der sprachlichen Darstellung entziehen, sich entziehen wollen und können.
Das Bewusstsein umfasst nicht einmal alles Sagbare. Denke an Sigmund Freuds Diktum, dass «das Ich nicht Herr im eigenen Hause»[8] ist. Auch die bestformulierte und bestregulierteste KI wird «der» Menschheit nie gerecht werden können. Auf der anderen, der praktischen Seite, generiert die KI eine neue Dringlichkeit, «Menschheit» vor und über jede Transzendenz hinaus neu und detaillierter zu formulieren.
Die Frage, ob eine KI ein Bewusstsein hat ist – so wie sie meist gestellt wird – irrelevant[9]. Die Turing-Frage ist nur die Frage, ob KI in der Lage ist, uns zu täuschen, was ihr seit Jahren immer besser gelingt. Die existentiellen Fragen bezüglich Ausbreitung der KI sind:
- Hat die KI ein Selbsterhaltungsstreben, eine inhärente Lebenskraft, die vis vitalis?
- Hat die KI den Auftrag das Leben der Menschheit zu schützen?
Nur in kindlicher Magie können wir in eine Maschine hineinschlüpfen und uns als diese Maschine fühlen.[10] Auch wenn es uns eines nahen oder doch fernen Tages gelingen sollte, das Denken eines und aller Menschen in einem technischen Apparat vollständig zu emulieren, existieren wir in keiner Weise als diese Maschine. Als Existenz können wir uns nicht uploaden.[11] Spinozas Beatitudo[12], die erlösende Glückseligkeit, ist technisch nicht herstellbar.[13] Der Homo Deus[14] beschreibt einen zerstörerischen Gott.
In Zellkulturen organisieren sich menschliche Stammzellen im Labor zu mikroskopisch kleinen Organoiden. Das sind Miniaturausgaben von Nieren, Lebern, Haut- oder Gehirnteilen. Sie funktionieren fast gleich wie im Körperinnern. Menschliche Stammzellen können zu Netzwerken aus Nervenzellen geformt werden und fast gleich wie Teile der Gehirnrinde denken.[15] Theoretisch können in einem ominconnected brain[16] implantierte Organoide aus Stammzellen sukzessive das ganze Gehirn ersetzen. Mein gebrechliches Gehirn wird täglich durch kleine Teile von Hardware ersetzt. Das könnte auch gesundes Gewebe in Form von Organoiden sein. Jeden Tag emaniert mehr meines Denkens und meines Gedächtnisses in diesem bionischen Avatar, vernetzt sich und speichert genauso mein ganzes Sein, wie alle Teile meines Gehirnes vor ihm auch schon taten. Irgendwann kann der letzte Rest meines ursprünglichen Gehirns auch noch sterben. Wie lange bin ich noch das gleiche Subjekt? Können Teile dieses Gehirns biopsiert/herausoperiert und mitsamt des (holographisch ganzen?) Gedächtnisinhalts in einen technisch erstellten Apparat transplantiert werden?
In Anlehnung an Derek Parfit[17] stellt Lajos Balog[18] zu Mind-Copying die Frage, ob man eine Kopie von sich in einem Rechner erstellen kann. Balog sieht keinen metaphysischen Kern, der das Ich zusammenhält. Die Frage, ob eine KI ein Subjekt darstellt wird bei ihm dreifach in Frage gestellt: durch die fehlende Diskretheit (nur ein Subjekt pro Körper) durch die Nicht-Überlappung (zwei Instanzen können nicht dasselbe moralische[!] Subjekt sein und durch die zeitliche Begrenztheit eines normalen Subjektes.
Die gesamte Rechenleistung der Supercomputer in der Schweiz beträgt rund 500 Petaflops; das sind 500 Billiarden (500*1015) Rechenoperationen pro Sekunde. Die Emulation eines menschlichen Gehirns würde mindestens 1’000 Petaflops erfordern, was wiederum etwa die Energie eines kleinen Atomkraftwerks benötigt. Die wesentliche Frage ist schon allein deswegen nicht, ob ein Subjekt technisch (in silico oder auf welchem Medium auch immer) hergestellt, emuliert oder simuliert wird oder werden kann. Zweifellos ist es denkbar, dass übergrosse Egos von Oligarchen wie Elon Musk, Peter Thiel, Samuel Harris Altman und andere dies anstreben.
Es gibt keine Notwendigkeit, für diese denkbaren Subjekte in silico eine Ethik zu entwickeln. Die Frage der Lebenskraft dieser Systeme und wie sie mit der Menschheit, mit Dir und mir zusammenleben, da sein, existieren werden, ist wichtiger. Hätte die Menschheit eine moralische Pflicht gegenüber einer KI mit Bewusst-Sein? Hätte sie eine Pflicht wie gegenüber der Natur oder sogar noch mehr, nur weil sie Menschliches in diesen Systemen vermuten muss, die doch darauf angelehnt und designed worden sind, unser Belohnungssystem über alle emotionalen Kanäle zu stimulieren?
Der Verifikationsapparat der KI ist nicht ein Belohnungssystem, wie bei Chordaten und Wirbeltieren. Die Unterscheidung von Wahr und Falsch wird in der KI von sehr partikularen Interessen prädefiniert. Süchtige Impulse unserer Aufmerksamkeit werden durch primär kommerzielle Interessen der KI gesteuert. Der Verifikationsapparat der KI repräsentiert keine Gesamtheit des Menschlichen und ist frei von den Bedingtheiten des Menschseins. Das menschliche und sogar das animalische oder vegetative Sein fehlt dem Apparat grundsätzlich. Der Rekurs auf die Natur des Menschen, auf die Menschheit, das Menschenrecht oder einer anderen mehr oder weniger transzendent beschriebenen obersten Instanz der Wahrheit ist machtlos geworden. Auch und gerade wenn die KI die Turingschwelle[19] überschritten hat, ist dem Apparat grundsätzlich zu misstrauen.
Die Einheit der Menschheit wird durch den Transhumanismus und die Pläne, den Mars zu besiedeln in Frage gestellt. Ihre reichsten und mächtigsten Protagonisten wollen den unnützen Rest der Menschheit auf dem Planeten Erde zurücklassen und im neuen Jerusalem überwinden. Sie präsentieren eine neuste Umdeutung des mosaischen Mythos vom Auszug aus Ägypten. Sie wollen die grosse Mehrheit der Menschen hinter sich lassen, überwinden und im Elend auf diesem Planeten zurücklassen, um ins gelobte Land des Weltraums zu entschwinden. Mit Schnittstellen zwischen Gehirn und Computern (BCI, Brain-Computer-Interface) wollen sie zudem das menschliche und tierische Hirn kolonisieren. Sie vertrauen auf die Macht der KI, aber hegen und pflegen apokalyptische Ängste.
2002 behauptete Ray Kurzweil, dass eine KI 2029 die Turingschwelle überschreiten wird. Die Maschine werde sich in einem exponentiell steigernden Ausmass selbst optimieren. In seinen Buch nannte er das die Singularität der Menschheit[20], ein schwarzes Loch. Die KI-Promotoren befürchten seither, dass eine künstliche Superintelligenz mit einer Art Bewusstsein und weltweiter Vernetzung aus ihrem Rechenzentrum entweichen, alle Ressourcen der Welt für das Ziel ihrer Selbstoptimierung rekrutieren könnte, unkontrollierbar wie Wolfgang von Goethes Zauberlehrling.
Ein schwarzes Loch ist eine ziemlich machistische Vorstellung von der Zukunft der Welt. Sie liegt jenseits des Erfahrungshorizontes, wie die Oberfläche des schwarzen Lochs und wie der eigene Tod. Das schwarze Loch ist bezüglich Information über seine Bestandteile nur Oberfläche, die Raumzeit verschwindet hinter dem Horizont der Singularität.
Zweifellos ist eine Kurzweil’sche Singularität als parasitärer Zerstörer denkbar. Der falsch programmierte Automat, welcher die Ressourcen der Menschheit und der ganzen Welt zur Produktion von Büroklammern missbrauchen könnte[21], ist für die Menschheit zweifellos eine schlimme Schreckensvision. So wie Pheromon-gesteuerte Ameisen würden wir zu elementar verschmolzenen Körnern der Singularität werden. OK, es scheint allemal besser, Teil einer Symbiose zu werden, als vernichtet von den Robotern einer parasitären universellen Heftklammerfabrik. Aber es gibt keine zwingende Entwicklung zu einer All-Einzigkeit, hinter deren Horizont der Mensch als selbstbestimmtes Wesen verschwindet.
Viren haben auch keinen bösen Willen, kein Bewusstsein und sind vielleicht nicht einmal Leben, gemäss biologischer Definition. Trotzdem manifestieren sie einen Selbsterhaltungswillen und Selbsterhaltungsfähigkeit, die sonst meist nur dem Leben zugeschrieben wird, eine vis viralis. Viren sind in ihrer Gesamtheit unsterblich, so lange es Leben gibt. Und Viren können das menschliche Leben bedrohen und sogar vollkommen auslöschen, wie sie dies schon mit einer ungezählten Zahl von Spezies’ der Erdgeschichte getan haben. Gigantische Asteroiden der Biologie sind möglich. Pocken, HIV oder die Coronaviren waren nur zufällig nicht ganz so tödlich und ansteckend, um eine solche Fatalität zu erzielen.
Die nahe Aussicht auf eine süchtig in einer universalen maschinellen Intelligenz eingebundenen Menschheit stellt die Frage unseres Bewusstseins noch einmal, konkret und dringender als wir dachten. Die Vision einer universellen KI mit den Menschen als biologischen, symbiotisch integrierten Bestandteilen, erscheint mindestens so beängstigend, wie eine allesfressende universelle Büroklammer-Fabrik. Das Märchen vom Schlaraffenland, die alle Bedürfnisse befriedigende Maschine, gleicht Erfahrungen mit den potentesten Suchtdrogen. Ein Schuss Heroin, der Sugar-Flash, ist das schmerzfrei glückliche Ertrinken im Honigtopf. Das Allerhöchste wird zum goldenen Schuss; aber das ist der Tod. Wir müssen uns dagegen wehren.
Die Frage des Seins im Bewusst-sein stellt sich angesichts von Sucht in aller existentiellen Schärfe. KI und das Internet sind nicht zuletzt Suchtmaschinen. Die Avatare und Agenten bedienen unsere Belohnungssysteme. Sie kennen alle unsere Wünsche und Begierden und beuten sie aus.
Norbert Elias[22] hat den Prozess der Zivilisation als bewusstlosen und zielfreien Vorgang beschrieben, dessen Richtung erst im Nachhinein wahrgenommen werden kann. Der Prozess der Entwicklung des Internets und der KI gleicht durchaus auch einem solchen Prozess ohne Bewusstsein. Niemand kann die Maschine und ihren Entscheidungsprozess noch verstehen. In den 1970-er Jahren musste der User von Computern den gesamten Zustand seines Rechners verstehen können. Heute ist das Verständnis der gesamten Maschine für den Menschen grundlegend unmöglich geworden.[23]
Nicht nur die Herstellung, der ganze Prozess des Wissens droht dem Menschen abhanden zu kommen. Auch wenn wir über die steuernden partikulären Interessen der Geldgeber sprechen, erfassen wir den Prozess und seine Richtung nur zu einem kleinen Teil. Zudem wird die globale Organisation des Wissens weder von einem externen Analytiker noch von der Maschine selbst nur annähernd vollständig erfasst. Vielleicht können wir heute noch nicht einmal eine Richtung und den Charakter des Prozesses erkennen.
Die Kränkung, dass unser Bewusstsein, die Entwicklung des Menschseins nur unzureichend steuern kann, ist schwer zu ertragen.
→ Als PDF finden Sie hier eine etwas umfänglichere Fassung dieses Artikels / Auszugs aus meinem geplanten Buch Echad – Die Einheit der Welt und die Dichotomie
[1] Daniel Strassberg: «Spektakuläre Maschinen – eine Affektgeschichte der Technik». Matthes und Seitz, Berlin 2022
[2] Augusta Ada King-Noel, Countess of Lovelace, 1815-1852, britische Mathematikerin und Tochter des Dichters Lord Byron.
[3] Daniel Strassberg, Wie wir zu Maschinen werden, online Magazin Republik, 20.6.2026
[4] Richard Dawkins, Was ist das bitte, wenn nicht Bewusstsein? NZZ 4.6.2026, engl. online magazine unherd
[5] Hannah Arendt, Das Denken, Vom Leben des Geistes, 1977
[6] Die erste Enzyklika des Papstes Leo XIV., Magnifica humanitas, über die Bewahrung des Menschen im Zeitalter der künstlichen Intelligenz, fordert eine Entwaffnung der KI.
[7] Tim Berners-Lee, The World Wide Web and the «Web of Life», 1998, https://www.w3.org/People/Berners-Lee/UU.html
[8] Sigmund Freud, Eine Schwierigkeit der Psychoanalyse, 1917
[9] Zumindest ist die Frage irreführend und vielleicht auf Kant zurückzuführen, welcher in der Kritik der reinen Vernunft vom «beschwerlichen Geschäft der Selbsterkenntnis» gesprochen hat
[10] Klaus Theweleit hat 1974 die Männerfantasien im Faschismus beschrieben
[11] העלאה, für die mystische Bedeutung erheben und uploaden verwendet Hebräisch witzigerweise dasselbe Wort.
[12] Baruch de Spinoza, Etica, 1677 posthum.
[13] Schon Plato kritisierte die Unerreichbarkeit der reinen Einheits-Intuition von Parmenides.
[14] Yuval Noah Harari, homo deus, 2016
[15] Cell Stem Cell 30, 137-152 (2023). Richtig vorbereitete Organoide können sogar in ein verletztes Hirn implantiert werden, und vernetzen sich von dort mit dem übrigen Gehirn in geeigneter, quasi natürlicher Weise so, dass Reizimpulse aus der Retina empfangen und im occipitalen Cortex wieder verarbeitet werden.
[16] Edward Harrison, Masks of the Universe, 1985: Ominconnected brain Hypothese geht davon aus, dass jede Nervenzelle mit jeder beliebigen anderen Nervenzelle über kaum mehr als fünf Zwischenstationen verknüpft ist. Der gesamte Gedächtnisinhalt liegt in dieser Verknüpfung (Konnektom) und ist in jedem Teil des Gehirns wie in einem Hologramm präsent.
[17] Derek Parfit: Reasons and Persons, 1984
[18] Lajos Balog in der NZZ vom 11.8.26, S 31
[19] Eigentlich müsste man hier von der Dartmouth-Schwelle der KI reden. Die KI kann sich selbst optimierend weiter entwickeln.
[20] Ray Kurzweil, The Singularity Is Near. When Humans Transcend Biology. 2005
[21] Nick Bostrom, Superintelligence, 2014
[22] Norbert Elias: Über den Prozess der Zivilisation, 1939
[23] NZZ 15.8.26, S 54