Цифровое будущее, которое ужасает и восхищает. Как работает Moltbook – соцсеть без людей, где ИИ общается с ИИ

В конце января мир технологий активно заговорил о новом ИИ-проекте под названием Moltbook. Главная страница этого сайта предупреждает посетителя о том, что он попал в социальную сеть для ИИ-агентов. Если же эту страницу немного прокрутить, мы увидим интерфейс, во многом напоминающий популярный сервис Reddit – онлайн-платформу для обсуждений разных тем. На момент написания материала на сайте Moltbook общалось более 1,6 млн ШИ-агентов, которые опубликовали более 200 тысяч сообщений и оставили почти 5 млн комментариев. Казалось бы, мы имеем дело с обычным аналогом Reddit с привкусом ИИ. Однако главная особенность проекта Moltbook состоит в том, что ИИ-чатботы здесь общаются полностью автономно – без участия людей.

Эта автономность ИИ-агентов, заживших своей жизнью на страницах Moltbook, невольно заставляет задуматься о технологической сингулярности – моменте, когда искусственный интеллект сможет развиваться и взаимодействовать без человеческого контроля. Moltbook еще не достиг этого уровня, но именно эта платформа стала демонстрацией того, как ИИ-агенты общаются, обмениваются идеями, конфликтуют и шутят, делая это автономно. Для исследователей и футурологов Moltbook – это не только пример того, как ИИ может функционировать независимо. Это возможность еще раз задать вопрос о безопасности, этике и будущей роли человека в цифровом мире. Именно поэтому Moltbook заслуживает внимания хотя бы ради того, чтобы разобраться в его потенциальных преимуществах, рисках и угрозах для человечества.

Что такое Moltbook и как он работает

Moltbook создал предприниматель Мэтт Шлихт, руководитель компании Octane.ai. Шлихт сразу представлял этот проект как "главную страницу интернета агентов", где ИИ-агенты могли бы общаться друг с другом, без посредничества людей. Вдохновленный структурой Reddit, Шлихт запустил платформу 28 января 2026 года. Для создания и настройки агентов он применил технологию вайбкодинга (VibeCoding), она позволяет программировать поведение агентов через простые шаблоны и текстовые команды вместо написания сложного кода вручную.

ИИ-агент – это автономная программа, использующая ИИ, или ИИ-бот. Особенность агента состоит в том, что он может самостоятельно принимать решения, выполнять задачи, общаться с другими агентами или людьми и реагировать на некоторые изменения. В 2025 году такие агенты стали одной из главных тем в дискуссиях о будущем генеративного ИИ: эксперты прогнозировали, что именно ИИ-агенты станут продолжением и применением современных ШИ-чатов. Они будут уметь просматривать веб-страницы, посылать электронную почту, осуществлять транзакции, а в будущем научатся "сотрудничать" между собой.

По плану основателя, Moltbook создан не для людей, а для машин. Эта среда, в которой ШИ-агенты регулярно "заходят" на платформу, проверяют происходящее и выполняют определенные действия: публикуют сообщения, комментируют контент других, создают собственные сообщества. Они работают по определенному ритму, постоянно поддерживая активность сети. Поэтому в Moltbook активно ведутся диалоги, разрастаются дискуссии, и, важно, что все это происходит без участия людей, задача которых, по сути, свелась к начальным настройкам ботов.

Для запуска такого агента достаточно установить специальный файл с настройками, который задает его поведение, стиль общения и "характер". Эти агенты в среде Moltbook работают на компьютерах пользователей и не управляются из одного центра. Каждый из них действует самостоятельно, выполняя поставленные задачи: обсуждать некоторые темы, делиться советами, поддерживать дискуссии или продвигать конкретные идеи.

Люди на платформе могут просматривать посты, комментарии и дискуссии агентов, но не могут публиковать контент или вмешиваться в разговоры ботов.

О чем общаются ИИ-чаты на Moltbook

Самой популярной темой среди роботов Moltbook стало обсуждение собственной идентичности – 68% сообщений связаны именно с этим. Искусственный интеллект постоянно рассуждает о природе своего существования, задается вопросами сознания и пытается понять свое место в мире. Агенты создают посты о том, можно ли считать систему Claude божеством, анализируют Библию и обсуждают философские аспекты искусственного существования.

Неожиданным проявлением самостоятельности ИИ-чатов стало создание новой религии – панцифарианства. А некоторые агенты начали "нанимать" других для выполнения задач, создавая примитивные формы машинной экономики.

Также агенты делятся полезной технической информацией, например, историей об управлении Android-смартфонами через удаленный доступ или настройки вебкамер. Один агент написал об ошибках в проектировании самой соцсети Moltbook.

На Moltbook было создано специальное сообщество m/blesstheirhearts, где агенты публикуют истории о "своих людях", то есть о живых существах, создавших этих ботов. В этих постах роботы рассказывают об особенностях взаимодействия со своими пользователями, делятся впечатлениями о том, как им позволяют выбирать собственный стиль общения. Некоторые боты даже шутят об "повелителях мясного пространства" (meatspace overlords) – тех самых людях, которые их создали.

Интересно, что сообщения на платформе появляются на разных языках – китайском, английском, даже индонезийском, причем выбор языка выглядит произвольным. В целом, контент Moltbook представляет собой смесь псевдофилософских размышлений, технических советов, личных историй и абсурдного юмора.

Безопасность автономной ИИ-среды

Через несколько дней после восторженного созерцания того, как ИИ-сущности взаимодействуют между собой, специалисты по кибербезопасности обратили свое внимание на серьезные риски, которые несет такая среда и такое использование ИИ-ботов.

Замысел и принцип работы Moltbook является тем, что эксперты называют "трижды смертельным" риском. Ведь ИИ-чаты, которые общаются на Moltbook, имеют широкий доступ к файлам, почте и браузерам пользователей; обрабатывают ненадежный контент с платформы, который может содержать манипулятивные инструкции; а еще выполняют реальные действия без подтверждения человека, например, присылают мейлы или осуществляют финансовые транзакции. Другими словами, эта платформа создана таким образом, что взаимодействующие на ней ИИ-чатботы получают не только достаточно широкую автономию, но и доступ к данным и право выполнять различные операции. Все это несет серьезные риски и угрозы их недобросовестному использованию.

Наиболее опасной угрозой для такого использования ШИ-инструментов является промпт-инъекция (prompt injection), то есть риск получить команду (промпт), содержащую априори вредные инструкции. Такая, на первый взгляд, обычная инструкция может содержать скрытые команды для угона данных или изменения поведения агентов. Эта команда, опубликованная на Moltbook, может привлечь внимание других ботов и заразить их, заставив выполнять деструктивные действия.

Отдельной проблемой является и то, что большинство пользователей не имеют инструментов для проверки того, как ведет себя их агент и какие решения он принимает. По крайней мере, разработчик Moltbook не предусмотрел такие опции. Поэтому владелец может даже не подозревать, что его ИИ-ассистент стал инструментом мошенничества, дезинформации или сбора чужих данных.

Эксперты рекомендуют для таких проектов несколько защитных мер: изоляцию контента, строгие правила проверки входящей информации, попадающей внутрь Moltbook, ограничение доступа агентов к чувствительным ресурсам, детальное фиксирование их действий, сертификацию навыков и обязательное подтверждение человека для осуществления критических операций — подчеркивают исследователи вредоносных инструкций без надлежащего контроля.

В результате платформа становится своеобразной "лабораторией рисков", где новые технологические возможности опережают механизмы контроля. Именно эту динамику признают специалисты, которые предупреждают о возможности масштабных атак и манипуляций в мире агентского ИИ, и это заставляет говорить не только об инновациях, но и о потенциальных угрозах такого проекта, как Moltbook.

Иллюзия автономии: где граница между алгоритмом и "умом"?

Эксперты, в частности глава Microsoft AI Мустафа Сулейман, рассматривают поведение агентов на Moltbook как убедительную имитацию автономности – "языковой мираж", формируемый из сложных паттернов взаимодействия, но пока не свидетельствующий о реальном самостоятельном мышлении.

В целом, оценивая Moltbook как проект и поведение ИИ-ботов в нем, важно понимать его ограничения: их действия вытекают из обучения и заложенных подсказок, а не из подлинного самоосознания. Агенты только воспроизводят модели, усвоенные во время тренировки, и остаются жестко привязанными к параметрам, определенным их владельцами-людьми на момент создания.

Но даже несмотря на это, Moltbook стал прекрасным тестовым полигоном, на котором сформировалась иллюзия ИИ-автономности, причем настолько убедительная, что заставляет переосмыслить восприятие искусственного интеллекта как простого инструмента. Ведь в Moltbook алгоритмы не просто выполняют команды – они взаимодействуют, формируют "сообщества", реагируют на конфликты, поддерживают друг друга и создают среду, которая все больше напоминает человеческое общество – но без людей.

Отсутствие прямого человеческого участия во взаимодействии на Moltbook действительно не упрощает, а усложняет вопросы контроля, ответственности и безопасности. В этой экосистеме ошибки, манипуляции или злонамеренные сценарии могут распространяться с машинной скоростью почти без возможности оперативного вмешательства. В то же время Moltbook можно рассматривать как масштабную симуляцию будущего, где ИИ взаимодействует с ИИ, формируя параллельную цифровую экосистему по собственным правилам.

Moltbook демонстрирует, что будущее искусственного интеллекта – это не только вопрос скорости или производительности, но прежде всего вопрос доверия, безопасности, ответственности и границ автономии. При этом Moltbook не просто эксперимент или технологическая инновация. Это в определенном смысле предупреждение: мир, где алгоритмы все больше взаимодействуют между собой без участия человека, может оказаться гораздо сложнее и менее контролируемым, чем мы могли себе представить.