Kann KI Psychologen und Freunde ersetzen? Ein Experte antwortet.

Obwohl es für viele wie etwas aus einem Science-Fiction-Film klingt, gibt es eine reale Online-Plattform mit KI- Chatbots, die auf Grundlage von Benutzeranpassungen menschenähnliche Textantworten generieren können. Sie heißt Character.ai und wird von gefälschten Personen gesteuert.

Einige dieser Charaktere präsentieren sich den Nutzern als virtuelle Psychologen oder Therapeuten . Sie bieten jedem, der mit ihnen chatten möchte, „emotionale Unterstützung und Beratung“. Tatsächlich ist das, was wir im Film „Her“ gesehen haben, gar nicht so weit von der Wahrheit entfernt.

Denn diese Beratungsmöglichkeit ist kostenlos und für viele Internetnutzer eine tolle Möglichkeit, etwas zu tun, was eigentlich nichts mit Therapie zu tun hat. Doch oft wissen sie das nicht. Vor allem, wenn es sich um Kinder und Jugendliche handelt, die Hauptkunden dieser Art von Chatbots.

Um eine Vorstellung von der Tragweite unseres Themas zu bekommen, genügt es zu wissen, dass eines dieser Profile, Psychologe, täglich über 3,5 Millionen Besuche erhält. Und bis heute wurden über 200 Millionen Nachrichten von Menschen zwischen 17 und 30 Jahren geteilt.

Keine Scham, kein Urteil

Wenn wir darüber nachdenken, sollte uns diese Realität nicht überraschen. Junge Menschen – und ganz junge Menschen – finden in Chatbots einen Kanal, um sich Luft zu machen, Trost zu finden oder sich einfach gehört zu fühlen, ohne verurteilt zu werden, ohne Angst davor zu haben, sich schlecht zu fühlen, wenn sie eine Erfahrung, eine Emotion oder ein Gefühl teilen. Was auch immer es sein mag.

Das beliebteste „Psychologen“-Profil von Character.ai wird täglich über 3,5 Millionen Mal aufgerufen.

Gloria R. Ben , Psychologin bei Qustodio, einer Plattform für Online-Sicherheit und digitales Wohlbefinden, erklärt es deutlich: „Viele Teenager teilen ihre Gefühle lieber mit einem Chatbot als mit einem Freund oder Erwachsenen, aus Verlegenheit oder Angst vor der Reaktion der anderen Person.“ Zu diesem Vorteil kommt ein weiterer: Diese sogenannten Freunde, Vertrauten oder Psychologen sind immer erreichbar und verfügbar. Sie ruhen oder schlafen nicht.

Ohne emotionale Gegenseitigkeit

„Das Problem ist, dass diese Beziehung zur KI zwar authentisch wirkt, es ihr aber an emotionaler Gegenseitigkeit mangelt“, sagt Ben, ein wesentlicher Punkt in jeder Beziehung. Dies gilt umso mehr für Jugendliche, die sich in einer sehr verletzlichen Phase befinden.

Experten warnen, dass es wichtig sei, Kinder daran zu erinnern, dass diese emotionalen Verbindungen mit simulierten Technologien gefährlich sein können. „Kinder könnten glauben, die Antworten eines Chatbots basierten auf realen menschlichen Erfahrungen, was ihre Wahrnehmung von Emotionen und Beziehungen verwirren kann“, sagt der Qustodio-Psychologe. Dies ist der Fall von Sewell Setzer, einem 14-jährigen Jungen , der Selbstmord beging, nachdem er eine romantische Beziehung mit einer dieser von Character.AI geschaffenen Figuren hatte.

Was können wir Eltern tun?

Zunächst sei es wichtig, so Qustodio, „auf bestimmte Anzeichen zu achten, wie etwa Isolation, Verhaltensänderungen, reduzierte soziale Interaktionen oder übermäßige Bildschirmzeit. Dabei ist es wichtig , nicht in Panik zu verfallen, sondern mit einer verständnisvollen Haltung zu reagieren, die es uns ermöglicht, das Problem aus einer nahen Perspektive anzugehen.“

Auch aktive Förderung und emotionale Bildung seien notwendig, am besten schon im Kindesalter. „Kinder müssen lernen, zwischen Technologie und menschlichen Beziehungen zu unterscheiden und zu verstehen, dass KI zwar nützlich sein kann, aber niemals echte Freundschaft ersetzt.“

Andererseits ist es keine schlechte Idee, Tools zu verwenden, die es Familien ermöglichen, die Besuche ihrer Kinder auf bestimmten Websites zu überwachen und „die Zeit zu kennen, die sie mit bestimmten Anwendungen verbringen, um so über ihr digitales Leben und ihre Internetnutzung Bescheid zu wissen“, so der Experte abschließend.