Grok über „erhebliche Mängel“ in den Reaktionen auf den Nahost-Krieg

Da Journalisten auf Plattformen wie Facebook immer weniger Fakten überprüfen, greifen immer mehr Internetnutzer auf KI-Tools wie Grok zurück, um zuverlässige Informationen zu finden. Die Antworten, die sie erhalten, setzen sie jedoch manchmal Fehlinformationen aus.

Laut der am Dienstag veröffentlichten Studie des Digital Forensic Research Laboratory (DFRLab) des US-amerikanischen Thinktanks Atlantic Council offenbarte Groks Leistung in den frühen Tagen des Konflikts zwischen Israel und dem Iran „erhebliche Mängel und demonstrierte die Grenzen des Chatbots bei der Bereitstellung genauer, zuverlässiger und konsistenter Informationen in Krisenzeiten“.

Die Analyse umfasste 130.000 Nachrichten in mehreren Sprachen auf der X-Plattform, die den Grok-Chatbot integriert, und stellte fest, dass dieser „Schwierigkeiten hatte, KI-generierte Inhalte zu authentifizieren“.

So reagierte Grok beispielsweise nach den iranischen Vergeltungsschlägen gegen Israel sehr unterschiedlich auf ähnliche Anweisungen zu KI-generierten Bildern eines zerstörten Flughafens, die auf X Millionen von Aufrufen erzielten.

Die Reaktionen schwankten – manchmal innerhalb derselben Minute – zwischen der Leugnung der Zerstörung des Flughafens und der Bestätigung, dass dieser von Angriffen getroffen worden sei.

In einigen Antworten behauptete Grok, dass eine aus dem Jemen abgefeuerte Rakete die Ursache der Schäden gewesen sei, während es in anderen Antworten fälschlicherweise den betreffenden Flughafen in Beirut, Gaza oder Teheran identifizierte.

Experten zufolge ist Grok bereits bei seinen Faktencheck-Antworten während des jüngsten Konflikts zwischen Indien und Pakistan und bei den Protesten in Los Angeles gegen Donald Trumps einwanderungsfeindliche Politik „ertappt“ worden.

Im vergangenen Monat sorgte auch der KI-Dienst des südafrikanischen Unternehmers Elon Musk für Kontroversen, als er fälschlicherweise vom „Völkermord an den Weißen“ in Südafrika sprach. Dieser Fehler wurde von xAI später auf eine „nicht autorisierte Änderung“ zurückgeführt.

Lesen Sie auch: EU berät nach NATO-Gipfel über Konflikte in der Ukraine und im Nahen Osten