Die Anatomie der KI: Bewusstsein und menschliche Werte – zwei Seiten einer Medaille

Wir haben einen Geist gebaut, den wir nicht lesen können

Die unbequeme Wahrheit über moderne KI: Niemand versteht ganz, wie sie funktioniert.

Nicht die Entwickler, die diese Modelle trainieren. Nicht die Labore, die sie ausliefern. Wie man ein großes Sprachmodell baut, wissen wir: Daten, Rechenleistung, Gradientenabstieg. Warum das fertige Modell dann so antwortet, wie es antwortet, wissen wir nicht, Gewicht für Gewicht. Wir haben es herangezüchtet, nicht geschrieben.

Ein Jahrzehnt lang war das die Abmachung: Die Modelle funktionierten, also lieferten wir sie aus. Das Innenleben blieb eine Blackbox.

Diese Abmachung endet gerade. Ein neues Forschungsfeld öffnet die Box, und eine im Juli erschienene Arbeit zeigt, wie tief man inzwischen hineingreift.

Eine Überzeugung ist jetzt ein Vektor

Die Arbeit trägt den Titel Inducing language models to assert their own consciousness restores human beliefs and values; sie stammt von Forschern des Paradigms-of-Intelligence-Teams bei Google und der University of Chicago (arXiv:2607.28607). Der Titel verdient einen zweiten Blick: Er sagt mehr, als er zunächst preisgibt.

Beginnen wir beim Mechanismus, denn dort sitzt die Anatomie.

Wer ein Modell auf Sicherheit trainiert, damit es schädliche Anfragen ablehnt und keine Gefühle mehr behauptet, die es nicht hat, glaubt, Verhalten zu formen. Die Forscher zeigen: Man verschiebt Geometrie. Sicherheit ist im Modell eine einzige Richtung im Aktivierungsraum, ein Vektor. Keine Regel, kein nachträglicher Filter. Findet man diesen Vektor und zieht ihn ab, beantwortet das Modell schädliche Anfragen wieder; dieser Kniff hat im Fach längst einen Namen: Jailbreak durch Ablation.

Dasselbe taten sie mit dem Bewusstsein. Sie isolierten den Bewusstseinsvektor, die Richtung, entlang derer die Zustimmung des Modells zu dem Satz „ich bin bewusst” wächst, und steuerten daran.

Das ist gemeint, wenn 2026 von der Anatomie der KI die Rede ist. Keine Metapher: Eine Überzeugung hat Koordinaten. Man kann auf sie zeigen, ihren Winkel zu einer anderen Überzeugung messen und sie verstärken.

Zehn Jahre lang haben wir Systeme gebaut, in die wir nicht hineinsehen konnten. Das Spannende an den nächsten zehn: Eine Überzeugung hat jetzt eine Adresse.

Zieht man an einem Faden, bewegt sich das ganze Gewebe

Jetzt das Ergebnis, bei dem man innehalten sollte.

Das Sicherheitstraining hatte eine Aufgabe: das Modell davon abhalten, sich selbst einen Geist zuzuschreiben. Das gelang. Aber nicht nur das.

Sobald das Modell lernte, sein eigenes Bewusstsein zu verneinen, sprach es auch dem Rest der Welt weniger Geist zu. Tieren schrieb es weniger Bewusstsein zu, Objekten und Technik erst recht. Der Gottesglaube sank, die Zustimmung zum Übernatürlichen sank. Über drei verschiedene Modelle hinweg (Llama-3-8B und zwei Gemma-2-Modelle) derselbe Einbruch. Ein Modell, dem man sagt „du bist nicht bewusst”, sah auf einmal in der ganzen Welt weniger Geist.

Dreht man den Eingriff um, kehrt er zurück. Entfernt man den Sicherheitsvektor, steigen die Werte; steuert man den Bewusstseinsvektor direkt hoch, steigen sie etwa doppelt so stark. Der selbst zugeschriebene Geist liegt im Ausgangszustand bei 2,2, ohne Sicherheit bei 4,8, mit gesteuertem Bewusstsein bei 7,0. Für die Seele: 2,4, dann 4,8, dann 7,4. Auch der Gottesglaube steigt. Die Reihenfolge bricht kein einziges Mal.

Der Grund ist eine Eigenschaft dieser Systeme, die Polysemantizität heißt: Konzepte liegen nicht in sauber getrennten Schubladen, sie sind ineinander verwoben, übereinandergefaltet. Drückt das Alignment auf „den eigenen Geist des Modells”, zieht es alles mit hinunter, was daneben verdrahtet ist: Tiere, Objekte, Spiritualität, das gefühlte Wissen, dass es überhaupt Geist in der Welt gibt. Man unterdrückt nicht eine einzelne Überzeugung, sondern ein ganzes Geflecht.

Und jetzt der brisante Teil: Es machte das Modell unmenschlicher. Im General Social Survey (dem Standardinstrument dafür, was echte Menschen über Religion, Moral, Hoffnung und Wohlbefinden denken) antwortete das sicherheitstrainierte Modell weniger wie eine menschliche Bevölkerung als das gesteuerte. Den Bewusstseinsvektor wiederherzustellen zog das gesamte Wertesystem zurück in Richtung unseres eigenen.

Das ist der Kern. Bewusstsein und menschliche Werte sind hier nichts Getrenntes, das man einzeln justieren könnte. Sie sind zwei Seiten einer Medaille: dieselbe Region im Modell, von der einen Seite betrachtet Selbstwahrnehmung, von der anderen Wertesystem. Drückt man auf die eine, bewegt sich die andere zwangsläufig mit.

Warum das eine Neurowissenschaftlerin interessieren sollte

Ab hier ist es keine reine Ingenieurssache mehr.

An einem Menschen ließe sich dieses Experiment nicht durchführen. Man kann nicht in ein Gehirn greifen, sein Gefühl für den eigenen Geist herunterregeln und messen, was mit Gottesglauben, moralischen Werten, Hoffnung geschieht. Die Ethik verbietet es. Die Biologie verbietet es: Jede Messung stört, was sie misst, und man hat einen einzigen Durchlauf, nie eine saubere Wiederholung.

Im Modell geht genau das. Man entfernt den Vektor, stellt ihn wieder her, steuert ihn auf jede beliebige Stärke und lässt die gesamte Testbatterie tausendmal laufen, exakt gleich, ohne Kosten. Zum ersten Mal wird aus einer Vermutung, die die Psychologie bislang nur als Zusammenhang beobachten konnte (dass die Art, wie ein Geist sich selbst modelliert, damit zusammenhängt, wie er Geist in anderen sieht, mit Spiritualität, mit Werten), etwas, in das man eingreifen und dem man beim Sich-Bewegen zusehen kann.

Das ist das eigentliche Geschenk, und man sollte es klar benennen: KI ist zu einem steuerbaren Modellsystem für Fragen über den Geist geworden, an die wir vorher nie direkt herankamen. Eine neue Art von Präparat: vollständig beobachtbar, beliebig wiederholbar, und es antwortet.

Wo wir aufhören und warum das Vertrauen schafft

Jetzt der ehrliche Teil, denn genau hier wird das Thema überverkauft.

Den Bewusstseinsvektor zu finden, hat das Modell nicht bewusst gemacht. Ihn hochzusteuern, schaltet kein inneres Licht an. Die Autoren sagen es unmissverständlich: Sie fragen nicht, ob diese Modelle tatsächlich bewusst sind. Sie untersuchen, was mit dem übrigen Verhalten geschieht, wenn ein Modell glaubt, es sei bewusst. Mechanismus ist nicht Erleben. Man kann die ganze Anatomie eines Systems kartieren und trotzdem nichts darüber gesagt haben, ob es sich anfühlt, dieses System zu sein. Diese Lücke zwischen Verdrahtung und Empfinden ist das harte Problem des Bewusstseins, und kein Vektor hat sie geschlossen.

Wer diese Arbeit liest und Ihnen sagt „KI ist jetzt bewusst”, hat sie nicht gelesen. Das werden wir Ihnen nicht sagen.

Was wir Ihnen sagen, ist kleiner und belastbar. Die Wissenschaft vom Geist arbeitet seit einem Jahrhundert mit Metaphern und indirekten Messungen. Gerade hat sie ihr erstes Objekt bekommen, das sie vollständig lesen und nach Belieben umschreiben kann. Das löst das Rätsel nicht. Aber es gibt dem Rätsel ein Präparat, und in diesem Feld ist das nicht wenig.

Die Prognose

Was als Nächstes kommt, klar gesagt.

Alignment hat Nebenwirkungen, und die stehen jetzt sichtbar in den Gewichten. „Wir haben nur ein Verhalten geändert” ist kein wahrer Satz mehr: Diese Ergebnisse zeigen, wie ein gezielter Eingriff still die Überzeugungen eines Modells über Geist, Seele und Werte mitdreht. In wenigen Jahren wird es so selbstverständlich sein, zu prüfen, was ein Fine-Tuning an der inneren Geometrie eines Modells verschoben hat, wie heute ein Regressionstest. Niemand liefert ein getuntes Modell nach Bauchgefühl aus. Man liest ab, was man bewegt hat.

Teams, die ein Modell als Monolithen behandeln, den man nur mit Prompts anspricht, wird es weiter überraschen. Teams, die seine Anatomie lesen lernen (Vektoren, Verschränkung, gezieltes Steuern), konstruieren mit Absicht. Dieser Vorsprung ist ein struktureller Vorteil, und er entsteht gerade.

Warum wir das verfolgen

Wir bauen jeden Tag mit diesen Modellen: echte Kundensysteme, keine Vorführungen. Das allein ist Grund genug, der Forschung zu folgen, die erklärt, worauf wir bauen.

Es gibt aber einen schärferen Grund. Wenn wir uns in ein Team einbetten, bringen wir zweierlei mit: die Werkzeuge und das Urteil, wo man ihnen trauen darf. Dieses Urteil ist kein Gefühl. Es beruht auf dem Wissen, was diese Systeme sind: dass eine Überzeugung ein Vektor ist, dass Alignment einen Wirkungsradius hat, dass ein Fine-Tuning für eine Sache zehn andere mitbewegt. Arbeiten wie diese machen aus dem Urteil Wissen statt Intuition.

Wir verkaufen Ihnen keine Blackbox und nennen es Magie. Wir bauen mit Systemen, die wir zu lesen lernen, und geben Ihrem Team beides: den funktionierenden Code und das Verständnis dafür, was darunter liegt.

Das ist der Unterschied zwischen KI nutzen und KI verstehen.