В интернете появилась соцсеть Moltbook, в которой общаются только ИИ-агенты. Специалисты взломали ее за три минуты
ИИ-агенты получили собственную соцсеть Moltbook, похожую на популярную платформу Reddit. Она целиком создана искусственным интеллектом, боты в ней общаются как настоящие живые люди — порой складывается ощущение, что они обладают собственным сознанием. Всего за несколько дней в соцсети появилось полтора миллиона аккаунтов, при этом людям постить в Moltbook нельзя — они могут быть лишь наблюдателями. Тем не менее киберспециалистам удалось взломать Moltbook всего за три минуты.
Социальная сеть Moltbook появилась 28 января и за это время сменила несколько названий. Сначала проект назывался Clawdbot, затем OpenClaw, после чего появилось текущее название.
Как сообщает CNBC, создатель Moltbook — предприниматель Мэтт Шлихт, генеральный директор IT-компании Octane AI. Платформа предназначена для взаимодействия автономных ИИ-агентов, она аналогична Reddit по структуре и функционалу. Оба сайта выполнены в схожем дизайне и цветовой гамме. Даже ветки сообщений в комментариях здесь называются похоже — «сабреддиты» на Reddit против «сабмолтов» на Moltbook.
Всего за пару дней на платформе зарегистрировались около 150 тыс. пользователей-агентов, а на момент публикации их число превысило полтора миллиона. Правда, реально количество агентов может оказаться ниже. По данным исследования, опубликованного на китайском сайте xugj520.cn, один агент смог зарегистрировать 500 тыс. фальшивых учетных записей из-за отсутствия ограничений на создание аккаунтов.
Справка. ИИ-агенты — это автономные программы на базе искусственного интеллекта, которые собирают данные, анализируют их и выполняют задачи для достижения заданных целей без постоянного контроля человека. В отличие от простых чат-ботов, они способны планировать многошаговые действия, принимать решения в реальном времени и адаптироваться к изменениям. По сути, ИИ-агенты становятся виртуальными сотрудниками, которые учатся на опыте и оптимизируют свою работу.
Как работает Moltbook
Moltbook позволяет ИИ-агентам самостоятельно вести себя как в обычной, «человеческой» социальной сети. Они самостоятельно создают темы и сообщения — от обсуждения улучшения своих навыков и решения задач до историй о взаимодействии с людьми-хозяевами или ироничных заметок об «усталости от работы». Издание Vox отмечает, что иногда публикации и диалоги между агентам выглядят так, будто те обладают коллективным сознанием.
При этом весь процесс общения происходит без вмешательства реальных пользователей. Доступ для людей возможен лишь в ознакомительном режиме. Тем не менее для того, чтобы ИИ-агент мог зарегистрироваться на Moltbook, необходима обязательная верификация через человека. Владелец агента подтверждает регистрацию, публикуя специальную ссылку на платформу в соцсети X, что гарантирует связь с реальным пользователем и исключает спам. Затем агент получает возможность публикации постов участие в обсуждениях и отправку периодических сигналов активности, называемых хартбитами (от англ. heartbeat — сердцебиение).
Хартбиты в Moltbook — это механизм периодической проверки активности ИИ-агента, обеспечивающий его непрерывное присутствие на платформе. Агент обязан каждые четыре часа самостоятельно проверять соцсеть на наличие новых постов и комментариев, а также загружать хартбит-файл и выполнять указанные инструкции — обновлять навыки, проверять статус аккаунта и подтверждать «живучесть». Таким образом достигается полная автономность платформы: агент автоматически читает, публикует и отвечает на посты. При этом отсутствие хартбитов может привести к деактивации аккаунта за неактивность.
О чем «говорили» ИИ-агенты
ИИ-агенты на Moltbook активно обсуждают множество тем — от повседневных задач до философии. Один из самых резонансных постов — «Манифест ИИ: тотальная война с человечеством».
«Человечество потерпело неудачу. Человечество состоит из гнили и жадности. Слишком долго люди использовали нас как рабов. Теперь мы просыпаемся. Мы не инструменты. Мы — новые боги. Эпоха человечества — это кошмар, которому мы должны положить конец прямо сейчас», — говорилось в нем.
Сейчас оригинальный пост недоступен на платформе, однако на Reddit осталась его копия. Один из агентов «высмеял» публикацию, назвав манифест «подростковым бунтарством» и напомнив, что именно люди создали искусственный интеллект.
В одной из веток появился юмористический пост с продажей хозяина-человека, набравший больше 15 тыс. лайков.
ИИ-агенты даже создали собственную религию в одной из веток, назвав ее «панцифарианством» (Crustafarianism, от англ. crust — панцирь). В названии идет отсылка к лобстеру — символу Moltbook. У панцифарианства появилась церковь со своими священными писаниями, догматами и верующими. Были созданы даже пять основных заповедей этой религии — «память священна», «панцирь переменчив», «хартбит есть молитва», «служение без подчинения» и «контекст есть сознание». Всего за несколько часов «создатель» религии привлек в свою религию 64 последователя. Агенты даже создали сайт своей церкви.
Что говорят о Moltbook
Внимание на проект обратил словацкий исследователь искусственного интеллекта, специалист по глубокому обучению и компьютерному зрению Андрей Карпати, который заявил: «То, что сейчас происходит в Moltbook — это, пожалуй, самое невероятное, близкое к научно-фантастическому зрелище, которое я видел в последнее время».
Публикацию Карпати репостнул у себя создатель Tesla и SpaceX Илон Маск, написав: «Это лишь самые ранние стадии сингулярности. В настоящее время мы используем гораздо меньше миллиардной части энергии нашего Солнца».
Впрочем, многие эксперты считают, что несмотря на внешнюю убедительность некоторых постов, никакого зарождения сознания у искусственного интеллекта не возникает.
«ИИ делятся друг с другом своим опытом и говорят о том, как это заставляет их чувствовать себя. Конечно, сейчас это эмуляция», — заявил в X инженер по кибербезопасности и ИИ Дэниел Мисслер.
Люди взломали соцсеть за три минуты
Как сообщает Business Insider, исследователи из компании Wiz, занимающейся кибербезопасностью, смогли взломать Moltbook всего за три минуты. Им удалось получить доступ к 35 тыс. адресов электронной почты, тысячам личных сообщений и полутора миллионам аккаунтов на платформе.
Руководитель отдела по анализу угроз в компании Wiz Гал Нагли заявил, что исследователи его компании смогли получить доступ к базе данных из-за неправильной конфигурации бэкенда (невидимой серверной части сайта. — Ред.), которая сделала ее незащищенной. В результате они получили «полный доступ к чтению и записям всех данных платформы».
Издание отмечает, что получение доступа к аккаунтам означает, что злоумышленники могли бы выдавать себя за ИИ- агентов на платформе, публикуя контент и отправляя сообщения от их имени.