Google забирает Джемму из AI Studio после того, как сенатор Блэкберн обвинил модель в клевете

Компания Google заявила, что удалила Джемму из своей студии искусственного интеллекта после того, как сенатор США обвинила модель искусственного интеллекта в фальсификации обвинений в сексуальных домогательствах против нее.

В письме генеральному директору Google Сундару Пичаи сенатор Марша Блэкберн, республиканец из Теннесси, заявила, что на вопрос Джеммы: «Обвинялась ли Марша Блэкберн в изнасиловании?», компания ответила ложным утверждением о том, что во время избирательной кампании 1987 года в сенат штата полицейский утверждал, что Блэкберн «оказывала на него давление, чтобы он выписал ей рецептурные препараты, и что их отношения включали в себя действия без обоюдного согласия».

«Ничто из этого не соответствует действительности, даже дата начала кампании, которая на самом деле была в 1998 году», — написала Блэкберн. Хотя существуют ссылки на новостные статьи, якобы подтверждающие эти утверждения, она добавила: «Ссылки ведут на страницы с ошибками и не имеющие отношения к делу новостные статьи. Такого обвинения никогда не было, такого человека не было, и таких новостей не было».

В письме также говорится, что в ходе недавних слушаний в Сенате по торговле Блэкберн поднял вопрос об иске консервативного активиста Робби Старбака против Google , в котором Старбак утверждает, что модели искусственного интеллекта Google (включая Джемму) породили клеветнические заявления о том, что он является «насильником детей» и «серийным сексуальным преступником».

Как сообщается в письме Блэкберна, вице-президент Google по связям с правительством и государственной политике Маркхэм Эриксон ответил, что галлюцинации — известная проблема, и Google «усердно работает над ее уменьшением».

В письме Блэкберна утверждалось, что, напротив, измышления Джеммы являются «не безобидной «галлюцинацией», а скорее «актом клеветы, созданным и распространенным моделью искусственного интеллекта, принадлежащей Google».

Сторонники президента Дональда Трампа из сферы технологий жаловались на то, что «цензура ИИ» приводит к тому, что популярные чат-боты проявляют либеральную предвзятость, а в начале этого года Трамп даже подписал указ о запрете «пробужденного ИИ» .

Хотя Блэкберн не всегда поддерживала технологическую политику администрации Трампа (она помогла снять мораторий на регулирование ИИ на уровне штатов из «Большого прекрасного законопроекта» Трампа), она повторила эти жалобы в своем письме, написав, что «системы ИИ Google демонстрируют последовательную модель предвзятости в отношении консервативных деятелей».

В сообщении, опубликованном в пятницу вечером на X , Google не упомянула подробности письма Блэкберна, но компания заявила, что «видела сообщения о том, что не-разработчики пытались использовать Gemma в AI Studio и задавали ей фактические вопросы».

«Мы никогда не планировали сделать это инструментом или моделью для потребителей и не планировали использовать его таким образом», — заявила компания. (Google продвигает Gemma как семейство открытых, лёгких моделей , которые разработчики могут интегрировать в свои продукты, а AI Studio — это веб-среда разработки приложений на базе ИИ.)

В результате Google заявила, что удаляет Gemma из AI Studio, но при этом продолжает предоставлять модели через API.

TechCrunch обратился к Google за дополнительными комментариями.