Künstliche Intelligenz in der Pädiatrie bringt Herausforderungen und neue Effizienzgewinne mit sich

Risiken und Herausforderungen des Einsatzes von KI in der Pädiatrie

Große Sprachmodelle neigen zur „ Schmeichelei “, also dem Wunsch, dem Benutzer, der sie auffordert, zu gefallen, sowie zu Halluzinationen, bei denen es um erfundene Ergebnisse geht, erklärt Desai.

Er merkt an, dass der Einsatz von KI in der Pädiatrie auch deshalb Herausforderungen mit sich bringt, weil viele Kinderkrankheiten selten sind und daher für Algorithmen schwieriger vorherzusagen sind.

„Das ist eine rein biostatistische Einschränkung: Die Leistungsfähigkeit eines Algorithmus im realen Leben hängt stark von der Häufigkeit der Erkrankung ab. Je häufiger die Erkrankung auftritt, desto genauer ist der Algorithmus“, erklärt Desai. „Umgekehrt gilt: Je seltener die Erkrankung, desto schlechter schneidet der Algorithmus ab.“

Obwohl Wissenschaftler maschinelle Lernalgorithmen zur Identifizierung seltener pädiatrischer Erkrankungen wie primärer Immundefekte einsetzen, erzeugen diese laut Desai immer noch eine große Anzahl falsch-positiver Ergebnisse. Die Kinder würden dann unnötigen und teuren Tests unterzogen, so Desai.

WEITERLESEN: Künstliche Intelligenz wird heute im Gesundheitswesen auf vielfältige Weise eingesetzt.

„Das macht die Implementierung dieser Algorithmen am Behandlungsort sehr schwierig“, sagt Desai.

Darüber hinaus bergen Verzerrungen in der Ausbildung Risiken in der Pädiatrie.

„Einige Patientengruppen waren in den Trainingsdaten möglicherweise unterrepräsentiert, daher sind die Vorhersagen des Modells für diese Patienten ungenau“, sagt Desai.

Um die Risiken der KI zu bewältigen, hat Texas Children's einen KI-Governance- und Lenkungsausschuss eingerichtet, sagt Teresa Tonthat, Vizepräsidentin und stellvertretende CIO des Krankenhauses.

Der Governance-Ausschuss stellt laut Tonthat sicher, dass alle Ergebnisse von KI-Modellen von einem „Menschen zwischengeschaltet“ überprüft werden, bevor Patientenentscheidungen getroffen werden. Der Ausschuss befasst sich außerdem mit Bedenken hinsichtlich regulatorischer Anforderungen, Verzerrungen und Fehlinterpretationen von KI-Systemen , fügt sie hinzu.

Da das Gesundheitssystem mit Daten über Kinder arbeitet, bietet Texas Children's Schulungen für die Behandlungsteams zum Thema Freigaben über Epics MyChart an und arbeitet mit Anbietern wie Microsoft zusammen, um zu erörtern, wie sie Patientendaten nutzen und schützen können, sagt Tonthat.

„Unsere Risikotoleranz ist sehr gering, wenn es um Informationen über unsere pädiatrischen Patienten geht“, sagt Tonthat.

Trotz der Risiken bietet KI Chancen zur Lösung klinischer Probleme und zur Verbesserung der Effizienz von Arbeitsabläufen.

KI für Radiologie und Diagnostik in der Pädiatrie

Das Texas Children's Hospital nutzt KI bereits seit über einem Jahrzehnt und setzt dabei auf prädiktive Modellierung, Automatisierung, Deep Learning und maschinelles Lernen, um klinische Probleme zu lösen, so Tonthat. Das Krankenhaus beschäftigt sich seit zwei Jahren mit generativer KI, insbesondere mit Modellen zur Optimierung der Arbeitsabläufe im Behandlungsteam. Das Interesse der klinischen Teams im Texas Children's habe Zeit gebraucht, um zu wachsen, aber nun sei das Personal bereit für die Ausweitung des Einsatzes, erklärt sie.

Das Texas Children's Hospital hat ein KI-Modell für Radiologen entwickelt, um das Knochenalter vorherzusagen. Das Modell wurde anhand von Millionen von Röntgenaufnahmen von Kinderhänden trainiert.

„Weil wir Millionen von Röntgenbildern von Händen haben, haben wir das Modell so trainiert, dass es innerhalb von Sekunden das Alter der Hand dieses Kindes aus der Perspektive der Knochendichte bestimmen kann“, sagt Tonthat.

Laut Tonthat konnte das Texas Children's Hospital mithilfe seines KI-basierten Modells zur Bestimmung des Knochenalters die Bearbeitungszeit um 50 % verkürzen, indem es KI in die klinischen Arbeitsabläufe der Radiologen integrierte. Das KI-Modell ist eine Kooperation der Radiologie- und IT-Abteilungen des Krankenhauses sowie seines KI-Governance- und Beratungsausschusses.

Laut Desai setzt CHOP auch KI in der Radiologie ein.

„In der Forschung beschäftigen sich Wissenschaftler am CHOP mit dem Einsatz von KI zur Verbesserung der radiologischen Diagnostik, zur Vermeidung von Laborfehlern, zur Beschleunigung der Diagnose anhand von Pathologiepräparaten und vielem mehr“, sagt er.

Wenn ein Arzt einen Patienten mit schlecht eingestelltem Asthma behandelt, könnte ein KI-gestütztes System automatisch die Asthma-Vorgeschichte des Patienten abrufen, frühere asthma-bedingte Arztbesuche zusammenfassen und den Arzt benachrichtigen, falls ein erhöhtes Gripperisiko besteht, so Desai. Anschließend würde das System prüfen, welche Medikamente die Krankenversicherung des Patienten abdeckt und könnte die Verordnung für das Asthmamedikament vorbereiten, erklärt Desai.