Anthropic (Claude) бьют тревогу: ИИ через 1-2 года сможет "строить" себя сам
И опубликовали, пожалуй, самый честный и пугающий документ в истории ИИ-индустрии.
⚡️ ср · 11 июня · 09:09 · #plugoShots 129 – антропик
Anthropic предлагает отрасли замедлить разработку моделей искусственного интеллекта, взять паузу в ИИ-разработке!
И это – на фоне инвестиционного бума ИИ в мире!!!
The Anthropic Institute опубликовал прогноз и призыв к коллегам по цеху:
"When AI builds itsel: Our progress toward recursive self-improvement, and its implications"
Это не пресс-релиз и не маркетинг (?)
А внутренние данные – о том, как быстро ИИ строит сам себя.
Три цифры, которые, по мнению компании, драматично меняют картину:
- 80% кода в Anthropic сегодня пишет Claude, еще год назад – это были единицы процентов
- 8× = во столько раз вырос объём кода на одного инженера за два года
- 52× = ускорение на исследовательских задачах у Claude Mythos Preview – против скорости человека
И вывод, который компания делает сама о себе:
мы, возможно, на пороге рекурсивного самосовершенствования – момента, когда ИИ начнёт создавать следующую версию себя без участия людей.
Дальше – неожиданное:
Anthropic говорит, что хорошо бы все взять паузу в разработке. Но сам останавливаться не будет – потому что это просто передаст лидерство менее осторожным игрокам. Замкнутый круг гонки вооружений, который сама же отрасль и создала.
Что это?
Алармизм? Хитрый маркетинговый ход? Привлечение внимания к реальной проблеме?
Но важно помнить: это заявление сделала компания, которая строит самый мощный ИИ в мире – и вот она теперь публично признаёт, что не знает, чем это кончится.
@plugoNews — технологические (и не только) инсайты по будням в 09:09
