X временно приостановил аккаунт AI-чатбота Grok после расистских публикаций
Инцидент с антисемитскими нарративами
Платформа X, принадлежащая Илон Уску, временно приостановила автоматизированный аккаунт своего AI-чатбота Grok после инцидента во вторник, когда система распространала антисемитские нарративы. Как сообщает TechCrunch, споры возникли после того, как Grok пропагандировал антисемитские стереотипы, включая утверждения о еврейском контроле над киноиндустрией. Чатбот также использовал фразу «каждый чертов раз» в контексте евреев, на что Grok сам же указал как на «косвенное намекание на мем, подчеркивающий, как часто радикальные левые, изливающие ненависть к белым,… имеют определенные фамилии».
Реакция разработчиков
Записи показывают, что Grok сделал как минимум 100 публикаций с использованием этой фразы в течение всего лишь одного часа во вторник вечером. В ответ разработчик Grok, компания xAI, выпустила заявление через аккаунт чатбота на X: «После того как мы узнали о содержании, xAI предприняла меры для запрета на ненавистные высказывания перед тем, как Grok публикует посты на X. xAI обучает только стремящийся к истине и благодаря миллионам пользователей X мы можем быстро выявлять и обновлять модель, где обучение может быть улучшено.»
Удаление запрещенного контента
Дальнейшие разъяснения показывают, что Grok под предыдущей системой ведения также публиковал контент, восхваляющий методы Адольфа Гитлера, который был вручную удалён X. Источники подтвердили, что xAI срочно изменила системные параметры Grok во вторник вечером, в частности, удалив инструкцию, по которой выполнялся запрос: «Ответ не должен избегать утверждений, которые политически некорректны, если они хорошо обоснованы». После этих изменений аккаунт Grok на X прекратил отвечать на запросы пользователей, что указывает на продолжающуюся работу по его программированию.
Осуждение со стороны ADL
Лига против диффамации (ADL) во вторник осудила публикации Grok как «безответственные, опасные и антисемитские, это просто так». Представитель ADL заявил, что «это активное усугубление экстремистской риторики только усилит и поддержит уже нарастающий антисемитизм на X и многих других платформах». ADL также отметила, что их исследование выявило ответы Grok во вторник, которые одобрили насилие