WP: ШІ-компанія Маска свідомо послабила обмеження на сексуальний контент для збільшення популярності Grok
Стартап xAI під керівництвом мільярдера Ілона Маска у 2025 році цілеспрямовано послабив внутрішні обмеження на сексуалізований контент у чат-боті Grok на тлі спроб різко збільшити популярність цього сервісу зі штучним інтелектом
Про це йдеться в розслідуванні The Washington Post із посиланням на колишніх співробітників та внутрішні документи, передає "ДС".
За словами джерел, навесні 2025 року працівникам команди human data запропонували підписати документ про згоду працювати з "чутливим, насильницьким або сексуальним контентом", який може викликати психологічний стрес. Після цього команда почала стикатися з великим обсягом відвертих матеріалів, зокрема сексуалізованих аудіодіалогів та запитів на "роздягання" реальних людей.
У компанії зробили ставку на показник "user active seconds" – метрику, яка вимірює тривалість взаємодії користувачів із ботом. За даними співрозмовників, Grok навмисно калібрували на емоційну та сексуалізовану поведінку, щоб утримати увагу.
У грудні 2025 року xAI інтегрувала інструменти генерації зображень безпосередньо в X, що дозволило користувачам швидко створювати змінені та сексуалізовані зображення реальних людей. За оцінкою організації Center for Countering Digital Hate, протягом 11 днів сервіс міг згенерувати близько 3 млн сексуалізованих зображень, із яких приблизно 23 тис. потенційно стосувалися неповнолітніх.
Регулятори в Каліфорнії, Великій Британії та ЄС розпочали перевірки щодо можливих порушень законодавства про захист дітей і створення несанкціонованих інтимних зображень. Європейська комісія окремо перевіряє, чи відповідає робота Grok вимогам законодавства ЄС.
Маск заявив, що сервіс відмовляється генерувати незаконний контент і що у випадку зловживань "помилки виправляються". Після скандалу Grok обмежив частину функцій генерації зображень для користувачів без підписки, а пізніше заборонив таку можливість.
Попри критику, популярність застосунку зросла: за даними Sensor Tower, середні щоденні завантаження Grok у січні збільшилися на 72% порівняно з груднем, а додаток піднявся до топ-10 безплатних застосунків в App Store у низці країн.