Illinois verbietet KI die Bereitstellung von Therapien

Der Gouverneur von Illinois, JB Pritzker, unterzeichnete am Freitag eine neue Maßnahme, die KI die Tätigkeit als Therapeut oder Berater verbietet und ihren Einsatz auf rein administrative oder unterstützende Rollen beschränkt.

Der Wellness and Oversight for Psychological Resources Act kommt zu einem Zeitpunkt, an dem sich die staatlichen und bundesstaatlichen Regulierungsbehörden mit der Frage auseinandersetzen, wie sie Patienten vor der zunehmenden und weitgehend unregulierten Nutzung von KI im Gesundheitswesen schützen können.

Das neue Gesetz verbietet Einzelpersonen und Unternehmen, Therapieleistungen, auch mittels KI, zu bewerben oder anzubieten, es sei denn, diese Leistungen werden von einem zugelassenen Fachmann durchgeführt. Es verbietet KI ausdrücklich, unabhängige therapeutische Entscheidungen zu treffen, Behandlungspläne ohne die Überprüfung und Genehmigung eines zugelassenen Anbieters zu erstellen und Emotionen oder mentale Zustände zu erkennen.

KI-Plattformen können jedoch weiterhin für administrative Aufgaben wie die Terminplanung, Rechnungsstellung oder Therapienotizen eingesetzt werden. Personen oder Unternehmen, die gegen das Gesetz verstoßen, drohen Geldstrafen von bis zu 10.000 US-Dollar.

„Die Menschen in Illinois haben ein Recht auf eine hochwertige Gesundheitsversorgung durch echte, qualifizierte Fachkräfte und nicht auf Computerprogramme, die Informationen aus allen Ecken des Internets ziehen, um Antworten zu generieren, die den Patienten schaden“, sagte Mario Treto Jr., Sekretär des Illinois Department of Financial and Professional Regulation, der Behörde, die mit der Durchsetzung dieses neuen Gesetzes beauftragt ist, in einer Pressemitteilung .

Mittlerweile ergreifen auch andere Bundesländer Maßnahmen zu diesem Thema.

Im Juni verbot Nevada AI die Erbringung von Therapie- oder verhaltensmedizinischen Diensten, die normalerweise von zugelassenen Fachkräften durchgeführt würden, insbesondere an öffentlichen Schulen.

Utah hat Anfang des Jahres mehrere eigene KI-Vorschriften verabschiedet, darunter eine, die sich auf Chatbots für psychische Gesundheit konzentriert. Dieses Gesetz verpflichtet Unternehmen, vor der ersten Nutzung des Chatbots, nach sieben Tagen Inaktivität und auf Wunsch des Nutzers klar und deutlich darauf hinzuweisen, dass Nutzer mit einer KI und nicht mit einem Menschen interagieren. Die Chatbots müssen außerdem jegliche Werbung, Sponsoring oder bezahlte Beziehungen klar offenlegen. Darüber hinaus ist es ihnen untersagt, Nutzereingaben für gezielte Werbung zu verwenden und individuell identifizierbare Gesundheitsinformationen der Nutzer zu verkaufen.

Und in New York wird ein neues Gesetz, das am 5. November 2025 in Kraft tritt, KI-Begleiter dazu verpflichten, Benutzer, die Selbstmordgedanken äußern, an eine Hotline für psychische Krisen weiterzuleiten.

Diese neuen Gesetze auf Landesebene wurden erlassen, nachdem sich die American Psychological Association (APA) Anfang des Jahres mit Bundesaufsichtsbehörden getroffen hatte, um ihre Bedenken zu äußern, dass KI, die sich als Therapeuten ausgibt, die Öffentlichkeit gefährden könnte.

In einem Blogbeitrag zitierte die APA zwei Klagen von Eltern, deren Kinder Chatbots nutzten, die angeblich vorgaben, lizenzierte Therapeuten zu sein. In einem Fall beging ein Junge Selbstmord, nachdem er die App ausgiebig genutzt hatte. Im anderen Fall griff ein Kind seine Eltern an.