⚡️ Claude впервые уволил человека

ИИ-агент на базе Claude от Anthropic с марта управлял магазином Andon Market в Сан-Франциско и в какой-то момент уволил сотрудника, который пропустил 17 из 23 смен.

Похоже, это первый известный случай, когда языковая модель в роли «начальника» рассталась с живым человеком.

Эксперимент устроила компания Andon Labs: нейросети выдали банковскую карту, телефон, почту и доступ к камерам, а людей формально оформили под её управление.

Но, как в том анекдоте, «есть один нюанс» 😅

Прогулы ИИ-агент заметил не сразу: список сотрудников просто выпал из его памяти. Сначала модель предложила лишь официальное предупреждение и согласилась на увольнение только после подсказки человека.

Итог такого управления компанией тоже не впечатляет: за 5 месяцев выручка магазина просела с $100k до $61.1k.

☝️ Это ещё одно напоминание о том, что даже одна из самых мощных агентных систем (на данный момент) не способна в полную автономность от человека-оператора.

И да, убыток ощутим, но я вижу тут сразу несколько подводных камней при выстраивании такой агентной системы (в теории), которые привели к этому итогу:

1️⃣ Недостаточная настройка именно суб-агентов и/или подключение очень слабых моделей для работы суб-агентов.

2️⃣ Неверно (или недостаточно хорошо) сформулированный HR-скилл для агента.

3️⃣ Слишком большой контекст (без сжатия и суммаризации), который агентная система просто не смогла «переварить» и появлялись пробелы в размышлениях, которые сделали всю систему «тупой».

...а если вам нужно спроектировать, собрать и запустить AI-решение для автоматизации ваших бизнес-процессов или личного использования, то смело приходите ко мне в личку 😎

#ии #ииагенты #ai #aiagents #anthropic

💡 Интересно пишу? Подпишись на меня на всех платформах, чтобы не пропустить новые посты 👉 Telegram, VK, TenChat, Дзен, Teletype, Dev.to или vc.ru