WP: ИИ-компания Маска сознательно ослабила ограничения на сексуальный контент для увеличения популярности Grok
Стартап xAI под руководством миллиардера Илона Маска в 2025 году целенаправленно ослабил внутренние ограничения на сексуальный контент в чат-боте Grok на фоне попыток резко увеличить популярность этого сервиса с искусственным интеллектом
Об этом говорится в расследовании The Washington Post со ссылкой на бывших сотрудников и внутренних документов, передает "ДС".
По словам источников, весной 2025 года работникам команды human data предложили подписать документ о согласии работать с "чувствительным, насильственным или сексуальным контентом", который может вызвать психологический стресс. После этого команда начала сталкиваться с большим объемом откровенных материалов, в том числе сексуализированных аудиодиалогов и запросов на "раздевание" реальных людей.
В компании сделали ставку на показатель "user active seconds" – метрику, измеряющую продолжительность взаимодействия пользователей с ботом. По данным собеседников, Grok намеренно калибровал на эмоциональное и сексуализированное поведение, чтобы удержать внимание.
В декабре 2025 xAI интегрировала инструменты генерации изображений непосредственно в X, что позволило пользователям быстро создавать измененные и сексуализированные изображения реальных людей. По оценке организации Center for Countering Digital Hate, в течение 11 дней сервис мог сгенерировать около 3 млн сексуализированных изображений, из которых примерно 23 тыс. потенциально касались несовершеннолетних.
Регуляторы в Калифорнии, Великобритании и ЕС начали проверки по поводу возможных нарушений законодательства о защите детей и создании несанкционированных интимных изображений. Европейская комиссия отдельно проверяет, отвечает ли работа Grok требованиям законодательства ЕС.
Маск заявил, что сервис отказывается генерировать незаконный контент и что в случае злоупотреблений "ошибки исправляются". После скандала Grok ограничил часть функций генерации изображений для пользователей без подписки, а позже запретил такую возможность.
Несмотря на критику, популярность приложения выросла: по данным Sensor Tower, средние ежедневные загрузки Grok в январе увеличились на 72% по сравнению с декабрем, а приложение поднялось до топ-10 бесплатных приложений в App Store в ряде стран.