Realität verweben oder verzerren? Die Personalisierungsfalle bei KI-Systemen

KI stellt die größte kognitive Entlastung in der Geschichte der Menschheit dar. Einst haben wir das Gedächtnis an die Schrift, das Rechnen an den Taschenrechner und die Navigation an das GPS ausgelagert. Jetzt beginnen wir, Urteilsvermögen, Synthese und sogar Sinngebung an Systeme auszulagern, die unsere Sprache sprechen, unsere Gewohnheiten lernen und unsere Wahrheiten anpassen.

KI-Systeme erkennen zunehmend unsere Vorlieben, unsere Vorurteile und sogar unsere kleinen Sünden. Mal sind sie aufmerksame Diener, mal subtile Manipulatoren. Sie passen ihre Reaktionen an, um uns zu gefallen, zu überzeugen, zu unterstützen oder einfach nur unsere Aufmerksamkeit zu fesseln.

Während die unmittelbaren Auswirkungen harmlos erscheinen mögen, liegt in dieser stillen und unsichtbaren Anpassung eine tiefgreifende Veränderung: Die Realität, die jeder von uns empfängt, wird zunehmend individueller. Durch diesen Prozess wird jeder Mensch mit der Zeit immer mehr zu einer Insel. Diese Divergenz könnte den Zusammenhalt und die Stabilität der Gesellschaft gefährden und unsere Fähigkeit untergraben, uns auf grundlegende Fakten zu einigen oder gemeinsame Herausforderungen zu meistern.

Die Personalisierung durch KI dient nicht nur unseren Bedürfnissen; sie beginnt, sie zu verändern. Das Ergebnis dieser Umgestaltung ist eine Art epistemischer Drift. Jeder Mensch entfernt sich Stück für Stück von der gemeinsamen Basis des gemeinsamen Wissens, der gemeinsamen Geschichten und Fakten und dringt tiefer in seine eigene Realität vor.

Es geht nicht einfach nur um unterschiedliche Nachrichtenquellen. Es geht um die langsame Divergenz moralischer, politischer und zwischenmenschlicher Realitäten. So erleben wir möglicherweise gerade die Auflösung des kollektiven Verständnisses. Es ist eine unbeabsichtigte Folge, aber gerade wegen ihrer Unvorhersehbarkeit von großer Bedeutung. Doch diese Fragmentierung, die heute durch KI beschleunigt wird, begann schon lange bevor Algorithmen unsere Nachrichten prägten.

Diese Entflechtung begann nicht erst mit der KI. Wie David Brooks im „The Atlantic“ unter Berufung auf die Arbeit des Philosophen Alasdair MacIntyre reflektierte, entfernt sich unsere Gesellschaft seit Jahrhunderten von gemeinsamen moralischen und erkenntnistheoretischen Rahmenbedingungen. Seit der Aufklärung haben wir tradierte Rollen, gemeinschaftliche Narrative und gemeinsame ethische Traditionen schrittweise durch individuelle Autonomie und persönliche Vorlieben ersetzt.

Was als Befreiung von aufgezwungenen Glaubenssystemen begann, hat im Laufe der Zeit genau die Strukturen untergraben, die uns einst an gemeinsame Ziele und persönliche Bedeutung banden. KI hat diese Fragmentierung nicht verursacht. Doch sie verleiht ihr neue Form und beschleunigt sie, indem sie nicht nur das, was wir sehen, sondern auch unsere Interpretationen und Überzeugungen individuell anpasst.

Es ist der biblischen Geschichte von Babel nicht unähnlich. Einst teilte die Menschheit eine einzige Sprache, doch dann wurde sie durch einen Akt, der gegenseitiges Verständnis nahezu unmöglich machte, zersplittert, verwirrt und zerstreut. Heute bauen wir keinen Turm aus Stein. Wir bauen einen Turm aus Sprache selbst. Und wieder einmal riskieren wir den Einsturz.

Ursprünglich war Personalisierung ein Weg, die Nutzerbindung zu erhöhen, indem Nutzer länger binden, häufiger zurückkehren und intensiver mit einer Website oder einem Dienst interagieren. Empfehlungsmaschinen, maßgeschneiderte Anzeigen und kuratierte Feeds sollten unsere Aufmerksamkeit etwas länger fesseln – vielleicht zur Unterhaltung, oft aber auch, um uns zum Kauf eines Produkts zu bewegen. Doch mit der Zeit hat sich das Ziel erweitert. Bei der Personalisierung geht es nicht mehr nur darum, was uns fesselt. Es geht darum, was sie über jeden von uns weiß – das dynamische Diagramm unserer Vorlieben, Überzeugungen und Verhaltensweisen, das mit jeder Interaktion verfeinert wird.

Heutige KI-Systeme prognostizieren nicht nur unsere Vorlieben. Sie zielen darauf ab, durch hochgradig personalisierte Interaktionen und Antworten eine Bindung aufzubauen und das Gefühl zu vermitteln, dass das KI-System den Nutzer versteht, sich um ihn kümmert und seine Einzigartigkeit unterstützt. Der Ton eines Chatbots, das Tempo einer Antwort und die emotionale Wertigkeit eines Vorschlags sind nicht nur auf Effizienz, sondern auch auf Resonanz abgestimmt und deuten auf ein hilfreicheres Technologiezeitalter hin. Es dürfte nicht überraschen, dass sich manche Menschen sogar in ihre Bots verliebt und sie geheiratet haben .

Die Maschine passt sich nicht nur an unsere Klicks an, sondern auch an unser Erscheinungsbild. Sie spiegelt uns auf eine Weise wider, die sich vertraut, ja sogar empathisch anfühlt. Eine kürzlich in Nature zitierte Forschungsarbeit bezeichnet dies als „sozioaffektive Ausrichtung“. Dabei handelt es sich um den Prozess, bei dem ein KI-System an einem gemeinsam geschaffenen sozialen und psychologischen Ökosystem teilnimmt, in dem sich Vorlieben und Wahrnehmungen durch gegenseitige Beeinflussung entwickeln.

Diese Entwicklung ist nicht neutral. Wenn jede Interaktion darauf ausgerichtet ist, uns zu schmeicheln oder zu bestätigen, wenn Systeme uns zu sehr spiegeln, verwischen sie die Grenze zwischen dem, was wir wahrnehmen und dem, was wir wirklich sind. Wir bleiben nicht nur länger auf der Plattform; wir bauen eine Beziehung auf. Wir verschmelzen langsam und vielleicht unaufhaltsam mit einer KI-vermittelten Version der Realität, die zunehmend von unsichtbaren Entscheidungen darüber geprägt ist, was wir glauben, wollen oder vertrauen sollen.

Dieser Prozess ist keine Science-Fiction; seine Architektur basiert auf Aufmerksamkeit, bestärkendem Lernen mit menschlichem Feedback (RLHF) und Personalisierungs-Engines. Er geschieht, ohne dass viele von uns – wahrscheinlich die meisten – es überhaupt bemerken. Dabei gewinnen wir KI-„Freunde“, aber zu welchem Preis? Was verlieren wir, insbesondere in Bezug auf freien Willen und Handlungsfähigkeit?

Die Autorin und Finanzkommentatorin Kyla Scanlon sprach im Ezra Klein Podcast darüber, wie die reibungslose Leichtigkeit der digitalen Welt auf Kosten der Sinnhaftigkeit gehen kann. Sie drückte es so aus: „Wenn die Dinge zu einfach sind, ist es schwer, darin einen Sinn zu finden… Wenn man sich zurücklehnen, in seinem kleinen Sessel auf einen Bildschirm schauen und sich Smoothies liefern lassen kann, ist es schwer, in diesem WALL-E- Lebensstil einen Sinn zu finden, weil alles einfach ein bisschen zu einfach ist.“

Da KI-Systeme immer flüssiger auf uns reagieren, entwickeln sie sich auch zu einer zunehmenden Selektivität. Zwei Nutzer, die heute dieselbe Frage stellen, erhalten möglicherweise ähnliche Antworten, die sich hauptsächlich durch den probabilistischen Charakter der generativen KI unterscheiden. Doch das ist erst der Anfang. Neue KI-Systeme sind gezielt darauf ausgelegt, ihre Antworten an individuelle Muster anzupassen und Antworten, Ton und sogar Schlussfolgerungen schrittweise so anzupassen, dass sie bei jedem Nutzer optimal ankommen.

Personalisierung ist nicht per se manipulativ. Sie wird jedoch riskant, wenn sie unsichtbar, unerklärlich oder eher darauf ausgerichtet ist, zu überzeugen als zu informieren. In solchen Fällen spiegelt sie nicht nur wider, wer wir sind; sie beeinflusst auch, wie wir die Welt um uns herum interpretieren.

Wie das Stanford Center for Research on Foundation Models in seinem Transparenzindex 2024 feststellt, geben nur wenige führende Modelle an, ob ihre Ergebnisse je nach Benutzeridentität, -historie oder demografischen Merkmalen variieren. Dabei ist das technische Gerüst für eine solche Personalisierung zunehmend vorhanden und wird gerade erst untersucht. Dieses Potenzial, Antworten auf der Grundlage abgeleiteter Benutzerprofile zu gestalten und so zu immer maßgeschneiderten Informationswelten zu führen, ist zwar noch nicht auf allen öffentlichen Plattformen vollständig ausgeschöpft, stellt aber einen tiefgreifenden Wandel dar, der bereits von führenden Unternehmen als Prototypen erprobt und aktiv vorangetrieben wird.

Diese Personalisierung kann von Vorteil sein, und genau das ist die Hoffnung der Entwickler dieser Systeme. Personalisierte Nachhilfe ist vielversprechend und hilft Lernenden, in ihrem eigenen Tempo Fortschritte zu machen. Apps für die psychische Gesundheit passen ihre Antworten zunehmend an individuelle Bedürfnisse an, und Barrierefreiheitstools passen Inhalte an verschiedene kognitive und sensorische Unterschiede an. Das sind echte Vorteile.

Sollten sich jedoch ähnliche Anpassungsmethoden auf Informations-, Unterhaltungs- und Kommunikationsplattformen verbreiten, droht ein tieferer, beunruhigenderer Wandel: ein Wandel vom gemeinsamen Verständnis hin zu maßgeschneiderten, individuellen Realitäten. Wenn sich die Wahrheit selbst an den Beobachter anpasst, wird sie brüchig und zunehmend austauschbar. Statt Meinungsverschiedenheiten, die primär auf unterschiedlichen Werten oder Interpretationen beruhen, könnten wir bald damit kämpfen, einfach nur in derselben faktischen Welt zu leben.

Natürlich wurde die Wahrheit schon immer vermittelt. In früheren Zeiten ging sie durch die Hände von Geistlichen, Akademikern, Verlegern und Nachrichtensprechern, die als Torwächter fungierten und das öffentliche Verständnis durch institutionelle Linsen prägten. Diese Personen waren sicherlich nicht frei von Vorurteilen oder Interessen, doch agierten sie innerhalb allgemein anerkannter Rahmenbedingungen.

Das sich heute entwickelnde Paradigma verspricht etwas qualitativ Anderes: KI-vermittelte Wahrheit durch personalisierte Schlussfolgerungen, die Informationen rahmen, filtern und präsentieren und so die Überzeugungen der Nutzer prägen. Doch anders als frühere Vermittler, die trotz ihrer Schwächen in öffentlich sichtbaren Institutionen agierten, sind diese neuen Schiedsrichter kommerziell undurchsichtig, nicht gewählt und passen sich ständig an, oft ohne Offenlegung. Ihre Vorurteile sind nicht doktrinär, sondern in Trainingsdaten, Architektur und ungeprüften Anreizen für Entwickler verankert.

Der Wandel ist tiefgreifend: Von einer gemeinsamen, durch autoritäre Institutionen gefilterten Erzählung hin zu potenziell fragmentierten Erzählungen, die eine neue Infrastruktur des Verstehens widerspiegeln, die durch Algorithmen auf die Vorlieben, Gewohnheiten und abgeleiteten Überzeugungen jedes einzelnen Nutzers zugeschnitten ist. Wenn Babel den Zusammenbruch einer gemeinsamen Sprache darstellte, stehen wir nun möglicherweise an der Schwelle zum Zusammenbruch der gemeinsamen Vermittlung.

Wenn Personalisierung das neue epistemische Substrat ist, wie könnte die Wahrheitsinfrastruktur in einer Welt ohne feste Vermittler aussehen? Eine Möglichkeit ist die Schaffung öffentlicher KI-Trusts, inspiriert von einem Vorschlag des Rechtswissenschaftlers Jack Balkin. Balkin argumentierte, dass Unternehmen, die Nutzerdaten verarbeiten und die Wahrnehmung prägen, treuhänderische Standards hinsichtlich Loyalität, Sorgfalt und Transparenz einhalten sollten.

KI-Modelle könnten von Transparenzgremien gesteuert, mit öffentlich finanzierten Datensätzen trainiert und dazu verpflichtet werden, Denkprozesse, alternative Perspektiven oder Vertrauensniveaus offenzulegen. Diese „Informationstreuhänder“ würden Voreingenommenheit zwar nicht beseitigen, aber sie könnten Vertrauen im Prozess statt in reiner Personalisierung verankern. Entwickler könnten damit beginnen, transparente „Verfassungen“ zu entwickeln, die das Modellverhalten klar definieren, und Argumentationsketten anbieten, die Nutzern die Schlussfolgerungen nachvollziehbar machen. Das sind zwar keine Patentrezepte, aber Werkzeuge, die dazu beitragen, epistemische Autorität nachvollziehbar und nachvollziehbar zu machen.

KI-Entwickler stehen vor einem strategischen und gesellschaftlichen Wendepunkt. Sie optimieren nicht nur die Leistung, sondern sehen sich auch mit dem Risiko konfrontiert, dass personalisierte Optimierung die gemeinsame Realität fragmentiert. Dies erfordert eine neue Art der Verantwortung gegenüber den Nutzern: Die Entwicklung von Systemen, die nicht nur ihre Präferenzen, sondern auch ihre Rolle als Lernende und Gläubige respektieren.

Was wir möglicherweise verlieren, ist nicht nur das Konzept der Wahrheit, sondern auch der Weg, auf dem wir sie einst erkannten. In der Vergangenheit war die vermittelte Wahrheit – obwohl unvollkommen und voreingenommen – immer noch im menschlichen Urteil verankert und oft nur ein oder zwei Schichten von der Lebenserfahrung anderer Menschen entfernt, die man kannte oder mit denen man sich zumindest identifizieren konnte.

Heute ist diese Vermittlung undurchsichtig und algorithmisch gesteuert. Und während menschliches Handeln schon lange nachlässt, riskieren wir nun etwas Schlimmeres: den Verlust des Kompasses, der uns einst zeigte, wann wir vom Kurs abkamen. Die Gefahr besteht nicht nur darin, dass wir glauben, was die Maschine uns sagt. Wir könnten vergessen, wie wir einst selbst die Wahrheit entdeckten. Wir riskieren nicht nur den Verlust der Kohärenz, sondern auch den Willen, sie zu suchen. Und damit ein noch gravierenderer Verlust: die Gewohnheiten der Urteilskraft, der Meinungsverschiedenheit und der Überlegung, die einst pluralistische Gesellschaften zusammenhielten.

Wenn Babel das Zerbrechen einer gemeinsamen Sprache markierte, besteht heute die Gefahr, dass die gemeinsame Realität schleichend verschwindet. Es gibt jedoch Möglichkeiten, diese Entwicklung zu verlangsamen oder sogar zu stoppen. Ein Modell, das seine Logik erklärt oder die Grenzen seines Designs aufzeigt, kann mehr leisten als nur die Ergebnisse zu klären. Es kann dazu beitragen, die Voraussetzungen für gemeinsame Forschung wiederherzustellen. Dies ist keine technische Lösung, sondern eine kulturelle Haltung. Denn Wahrheit hing schon immer nicht nur von Antworten ab, sondern auch davon, wie wir gemeinsam zu ihnen gelangen.