Грок о «существенных недостатках» в ответах на войну на Ближнем Востоке

Поскольку проверка фактов журналистами на таких платформах, как Facebook, постепенно идет на спад, все больше интернет-пользователей обращаются к инструментам искусственного интеллекта, таким как Grok, чтобы найти достоверную информацию, но ответы, которые они получают, иногда оказываются дезинформирующими.

Согласно исследованию, опубликованному во вторник Лабораторией цифровых криминалистических исследований (DFRLab) Атлантического совета, американского аналитического центра, эффективность работы Grok в первые дни конфликта между Израилем и Ираном «выявила существенные недостатки и продемонстрировала ограничения чат-бота в предоставлении точной, надежной и последовательной информации во время кризиса».

Анализ включал 130 000 сообщений на нескольких языках на платформе X, в которую интегрирован чат-бот Grok, и определил, что последний «испытывал трудности с аутентификацией контента, созданного ИИ».

Например, после ответных ударов Ирана по Израилю Грок дал совершенно разные ответы на схожие инструкции по поводу созданных ИИ изображений разрушенного аэропорта, которые собрали миллионы просмотров на X.

Ответы колебались, иногда в течение одной и той же минуты, между отрицанием разрушения аэропорта и подтверждением того, что он подвергся атакам.

В некоторых ответах Grok утверждал, что причиной ущерба стала ракета, выпущенная из Йемена, в то время как в других случаях он ложно указывал, что рассматриваемый аэропорт находится в Бейруте, секторе Газа или Тегеране.

По словам экспертов, Grok уже «был уличен» в своих ответах по проверке фактов во время недавнего конфликта между Индией и Пакистаном и во время протестов в Лос-Анджелесе против антииммиграционной политики Дональда Трампа.

В прошлом месяце ИИ-сервис южноафриканского предпринимателя Илона Маска также вызвал споры, когда в нем ошибочно упомянули «геноцид белых» в Южной Африке, что xAI позже объяснила «несанкционированной модификацией».

Читайте также: ЕС обсуждает конфликты на Украине и на Ближнем Востоке после саммита НАТО