KI-Assistenten geben sensible Benutzerdaten weiter

Assistenten mit künstlicher Intelligenz (KI) sammeln und geben sensible Benutzerdaten wie medizinische Daten und Bankdaten ohne angemessene Sicherheitsvorkehrungen weiter, so das Ergebnis einer am Mittwoch veröffentlichten Studie.

Forscher des University College London im Vereinigten Königreich und der Universität Reggio Calabria in Italien analysierten zehn KI-Assistenten, die zur Nutzung auf einen Computer oder ein Mobiltelefon heruntergeladen und installiert werden müssen, und stellten fest, dass sie viele persönliche Daten über die Online-Aktivitäten der Benutzer sammeln.

Die Analyse ergab, dass mehrere Assistenten den vollständigen Inhalt von Webseiten, einschließlich der auf dem Bildschirm sichtbaren Informationen, an ihre Server übermittelten.

Einer der KI-Assistenten, Merlin, erfasste Formulareingaben wie Bank- oder Gesundheitsinformationen, während ChatGPT, Copilot, Monica und Sider Benutzerattribute wie Alter, Geschlecht, Einkommen und Interessen ableiten und diese Informationen nutzen konnten, um Antworten auch über verschiedene Browsersitzungen hinweg zu personalisieren.

„Diese Datensammlung und -weitergabe ist nicht trivial. Abgesehen vom Verkauf oder der Weitergabe von Daten an Dritte gibt es in einer Welt, in der massive Cyberangriffe häufig sind, keine Möglichkeit zu wissen, was mit den Browserdaten passiert, sobald sie gesammelt wurden “, warnte Anna Maria Mandalari, eine der Autorinnen der Studie, in einer Erklärung des University College London.

Für die Studie simulierten die Forscher reale Browser-Szenarien, indem sie die Rolle eines wohlhabenden männlichen Millennials (Digital Native) aus Kalifornien erstellten. Diese Rolle nutzten sie, um mit den Assistenten zu interagieren, während sie gängige Internetaufgaben erledigten, darunter das Lesen von Nachrichten, Einkaufen bei Amazon und Ansehen von Videos auf YouTube.

Auch private Aktivitäten wurden einbezogen, wie etwa der Zugriff auf ein universitäres Gesundheitsportal, die Anmeldung bei einem Dating-Dienst oder der Zugriff auf Pornografie. Die Forscher gingen davon aus, dass die Benutzer nicht verfolgt werden wollten, da es sich um persönliche und sensible Daten handelte.

Der in den USA durchgeführten Studie zufolge haben einige KI-Assistenten, darunter Merlin und Sider, die Aufzeichnung der Aktivitäten nicht wie vorgesehen beendet, als der Benutzer in den privaten Bereich wechselte . Dadurch verstoßen sie gegen US-Datenschutzgesetze, indem sie vertrauliche Gesundheits- und Bildungsinformationen sammeln.

Die Autoren der Studie argumentieren, dass eine behördliche Aufsicht über KI-Assistenten dringend erforderlich sei, um die personenbezogenen Daten der Nutzer zu schützen. Sie empfehlen den Entwicklern, die Grundsätze des eingebauten Datenschutzes zu übernehmen, wie etwa die ausdrückliche Zustimmung der Nutzer zur Datenerfassung.