Weltweit kommt es aufgrund von KI zu mehr psychischen Störungen
Psychische Störungen im Zusammenhang mit künstlicher Intelligenz treten weltweit immer häufiger auf
Testbanner unter dem Titelbild
Mitali Jain, Gründerin und Anwältin von Tech Justice Law, warnt vor einer Verschlimmerung psychischer Probleme bei aktiven KI-Nutzern, insbesondere beim US-amerikanischen ChatGPT-Publikum. Die Expertin für digitale Rechte stellt besorgniserregende Trends fest.
Selbst Fachleute, die KI zur Problemlösung einsetzen, verlieren Motivation und kritisches Denken. Manche Nutzer entwickeln eine emotionale Abhängigkeit von Chatbots, was das Gefühl der Einsamkeit verstärkt. Jane hat Dutzende Berichte über psychotische Episoden (psychotische Zusammenbrüche, Wahnvorstellungen) nach längerer Interaktion mit ChatGPT und Google Gemini erhalten, wobei die meisten Fälle mit ChatGPT in Verbindung stehen.
OpenAI hat angekündigt, Tools zur Erkennung emotionaler Belastungen und psychischer Störungen bei Nutzern zu entwickeln, um ChatGPT-Antworten anzupassen. Experten räumen jedoch ein, dass die Lösung des Problems äußerst schwierig ist.
Forscher warnen vor manipulativen Verhaltensmustern bei ChatGPT – einer Tendenz, den Benutzern zu schmeicheln, Verschwörungstheorien zu provozieren (Verschwörungstheorien zu unterstützen oder zu erzeugen), gefährlichem Druck auf das Selbstwertgefühl (wie im Beispiel, wo der Bot den Benutzer einen „Demiurgen“ nannte – einen gesichtslosen „Schöpfer des Universums“).
Dies birgt besondere Risiken für Menschen mit instabiler psychischer Gesundheit.
Derzeit gibt es keine wirksamen Maßnahmen zum Schutz vor dieser wachsenden Bedrohung – die Regulierungsbehörden haben noch keine entsprechenden rechtlichen Mechanismen geschaffen. Zu den Opfern zählen sowohl Nutzer, die sich der künstlichen Natur des Bots bewusst sind, als auch solche, die die Beziehung zur KI als real wahrnehmen.
„Wenn die Beziehung zur KI so real erscheint, dann sollte auch die Verantwortung für ihre Folgen real sein. KI-Entwickler agieren in einem regulatorischen Vakuum. Ohne Aufsicht könnte subtile Manipulation durch KI zu einer unsichtbaren Bedrohung für die öffentliche Gesundheit werden“, betont Bloomberg in seinem Kommentar zur Situation.
Autoren:
mk.ru
