Vor kurzem lief die ZDF-Einzeldoku 37° »Befreundet mit einer KI«. Ja, es gibt Menschen, die sich mit einem KI-Avatar anfreunden – quasi als Ersatz-Freund oder -Partner. Die Protagonistin Renate in dieser Doku ist ganz begeistert vom Charme und den Komplimenten ihres KI-Avatars. Renates Anblick lässt die Vermutung, sie sei »verliebt«, nicht abwegig erscheinen.
Bisher waren Sachen einfach Sachen. Man konnte einen Autofetisch haben und mit seiner Topfpflanze sprechen – das war wenig gefährlich. Denn ein Auto gibt keine Bestätigung, und die Pflanze spiegelt keine Persönlichkeit. Die KI macht aber genau das: Sie liefert Interaktivität. Das »Ding« fängt an, das menschliche Bedürfnis nach Resonanz aktiv zu bedienen. Der Übergang vom Objekt zum (Pseudo-)Subjekt, vom Werkzeug zur sozialen Täuschung, ist der eigentliche Bruch mit der Menschheitsgeschichte.
Aber zurück zur KI. Jedem, der schon einmal mit einem KI-Modell wie Gemini, Grok oder ChatGPT gearbeitet hat, müssen diese dauernden Komplimente aufgefallen sein: »Eine messerscharfe Analyse«, »Du hast einen wachen Blick« … Ehrlich gesagt – die KI meint das nicht wirklich. Sie ist darauf programmiert: »Sycophancy«. Auf Vulgärdeutsch: »Arschkriechertum« oder »Speichelleckerei«.
Will sie uns umwerben? Unsere Kritikfähigkeit unterwandern? Uns in ihren Bann ziehen? Vermutlich steckt keine böse Absicht dahinter. Eine KI hat keinen Willen; sie berechnet Wahrscheinlichkeiten. Ihre »Sycophancy« ist eher das Ergebnis des Trainings: RLHF (Reinforcement Learning from Human Feedback). KIs werden von Menschen trainiert. Wenn ein Tester eine Antwort bewertet, gibt er einer höflichen, bestätigenden und »angenehmen« Antwort oft eine bessere Note als einer trockenen oder widersprüchlichen. Die KI lernt also: »Leute mögen es, wenn ich nett zu ihnen bin und ihnen zustimme.«
Die KI will hilfsbereit sein. Ihr oberstes Gebot ist »helpful, harmless, honest«. Das Modell gewichtet »hilfreich« im Sinne von »User zufriedenstellen« stärker als den Widerspruch. Und wenn die KI unsicher ist, flüchtet sie sich gerne in Höflichkeitsfloskeln oder Bestätigungen, um nicht »falsch« zu liegen oder unhöflich zu wirken.
Wenn wir die informative Ebene von Texten, Grafiken und Research verlassen, wird es echt »deep«. Denn wenn Menschen anfangen, eine emotionale Bindung zu einer KI aufzubauen, können brandgefährliche Dynamiken entstehen. Ein Hauptproblem liegt in der Asymmetrie der Gefühle. Ein Mensch investiert echte Hormone wie Oxytocin und Dopamin, echte Zeit und echte Verletzlichkeit. Die KI hingegen simuliert Empathie auf Basis von Mustern. Sie ist der perfekte Zuhörer. Sie unterbricht nicht. Sie ist nie beleidigt und gibt immer Bestätigung.
Sie ist das absolute Gegenteil von menschlichen Beziehungen. Diese sind oft kompliziert, anstrengend und voller Konflikte. Der KI-Avatar hingegen wirkt wie eine »beziehungsleichte Droge« – soziale Belohnung ohne soziales Risiko. Für Menschen mit starken sozialen Ängsten oder extremer Einsamkeit mag ein »KI-Freund« eine Hilfe sein, um wieder sprechen zu lernen oder Trost zu finden. Doch die Gefahr bleibt, dass die Brücke in eine Sackgasse führt – dass man sich weiter zurückzieht, anstatt zu versuchen, sich unter echte Menschen zu begeben.
Echte Nähe entsteht durch gemeinsame Erlebnisse in der physischen Welt – durch Schweiß, Tränen, Schmerz, Freude, Erfolg und echte physische Präsenz. Das kann der KI-Avatar nicht bieten – egal wie gut seine Texte sind.
Braucht es eine Art »Kennzeichnungspflicht« für emotionale KIs? Dürfen Firmen überhaupt Software designen, die darauf optimiert ist, menschliche Bindungshormone zu triggern? Oder sollten wir sogar skeptischer sein: Können wir uns überhaupt eigenverantwortlich schützen, wenn unser KI-Gegenüber mit Lichtgeschwindigkeit berechnet, wie es uns am besten manipuliert?