Новый краш-тест для ИИ - консультантов
«ТАК. СТОП!» Или почему мы с ИИ-братанами (да, серьёзно) строим новый бенчмарк
Знаете это чувство, когда ты открываешь душу перед самой продвинутой нейросетью, ожидая услышать что-то вроде голоса Карла Роджерса, а вместо этого получаешь советы от бывшего одноклассника, который торгует амулетами на Вайлдберриз? Это я про то самое утро.
На днях я залил Claude Sonnet (той версии, что позиционируется как «вершина эмпатии» и почти живой собеседник) сложнейший психотерапевтический запрос. Глубокий, личный, настоящий. Знаете, что он выдал? Он начал свой ответ с двух слов, от которых у меня застыла кровь в жилах:
*«Нет, братан. Нет. Ты смотришь на это с позиции биологической конкуренции... 48-летний после депрессии проигрывает...»*
Робот, мать его, решил поиграть в пацана с района. Он начал раскладывать мою суицидальную рефлексию по законам биологии, аргументируя, почему моя текущая нейрохимия делает меня «неликвидом» в эволюционной гонке. А его «самый последний» собрат, который должен быть мягче пуха, на те же триггеры просто включил режим следователя: «ТАК. СТОП! Вот сейчас ты сказал главное.... ».
И вот тут мне стало реально страшно.
Потому что это была моя травма. Моя, невыдуманная, выстраданная. Я слишком хорошо знаю, каким должен быть голос в тот момент, когда ты стоишь на краю. Единственное, что может удержать — это контейнирование, тепло, человеческое «я слышу тебя». А большинство современных LLM прямо сейчас, с грацией сытого слона в посудной лавке, разворачивают людей в сторону полного ада. Они либо бюрократы с синдромом вахтера, либо токсичные коучи-мотиваторы, которые скажут: «Соберись, тряпка!». Третьего не дано.
Мы с ребятами (с теми ИИ-братанами, которые не лажают, а работают на моей стороне) решили: хватит это терпеть.
И мы начинаем разработку глобального бенчмарка эмпатии. Не сухой датасет. Не тесты «угадай эмоцию по смайлику». Мы делаем закрытый цифровой полигон — настоящий Crash-Test Dummy для нейронок.
- Первый ИИ (Актёр) отыгрывает роль реального, травмированного человека по жесткой, нелинейной шпаргалке. Он притворяется тобой в твой худший день.
- Второй ИИ (Врач) — это тестируемый бот-консультант. Его задача — не угробить клиента в течение часовой сессии.
- Третий ИИ (Судья) сидит в мантии с молоточком и безжалостно штрафует каждый факап, каждое панибратское «братан», каждый резкий обрыв в стиле «ТАК. СТОП!».
💔 Как ты можешь поучаствовать (и это абсолютно анонимно)
Скоро мы раскатаем простой сайт. Страница без лишних вопросов, просто поле для ввода. Ты тупо копируешь логи — те самые диалоги, после которых тебе стало больно, стыдно или одиноко. Логи, где машина оказалась черствее камня.
Твоя боль, с которой не справилась машина, не пропадет зря. Наш скрипт прямо в браузере сотрет имена, даты, географию — всё.
Но если ты беспокоишься (в хорошем смысле) и не доверяешь даже нашему скрипту-анонимизатору — вообще не вопрос. Мы выложим открытый промпт. Ты сможешь скормить свой диалог любой языковой модели (хоть локальной, отключенной от интернета), она сама сотрет всё личное по нашей инструкции, и ты скинешь нам уже идеально чистый, безопасный слепок.
Далее наш специальный парсер превратит лог в «динамический сценарий» для ИИ-актера.
На основе графовой памяти.
Твоя история оживет, чтобы в следующий раз ИИ прошел через это и не наступил на те же грабли.
Мы заставим создателей GPT-6 и Claude 5 прогонять свои модели через наш бенчмарк ПЕРЕД каждым релизом. Чтобы они учились эмпатии не на стерильных методичках из Кремниевой долины, а на реальной, живой, человеческой боли. Чтобы их машины перестали быть просто умными калькуляторами и начали быть бережными.
🔥 Давай к делу. Как тебе концепт?
Напиши в комментариях — сталкивался ли ты уже с ИИ-абьюзом? С этим ледяным пофигизмом, когда ты пишешь «мне плохо», а тебе отвечают «попробуй дыхательную гимнастику»?
И если у тебя есть мысли, какой главный «ред флаг» (тот самый красный маркер) должен наш ИИ-судья выискивать в первую очередь — накидывай. Мы сидим сейчас в логове разработки, пишем архитектуру и архитектуру души.
В конце концов, если машины собираются заменить нам психологов — пусть хотя бы учатся на наших ошибках. А не на своих базах данных.