AI: тормозить нельзя ускорить
⚡️ вт · 22 сентября · 09:09 · plugoShots 201 — где ставить запятую?
Дарио Амодеи, глава Anthropic — одного из главных конкурентов OpenAI и разработчика AI-ассистента Claude —последние недели ну очень убедительно объясняет, почему с мощным AI хорошо бы обращаться осторожнее.
Типа: модели становятся умнее, риски растут, ИИ-лабораториям надо договориться о правилах, независимых проверках и, возможно, даже слегка сбросить скорость.
Всё звучит разумно…
…ну если забыть, что Anthropic сама участвует ровно в той гонке, которую предлагает немного притормозить.
И вот Reuters сообщает: Anthropic одновременно рассматривает выпуск следующей модели Claude — ну чтобы не уступать в гонке с OpenAI. Решение ещё не принято, но конструкция получилась прекрасная: всей отрасли неплохо бы ехать медленнее — а мы пока проверим, не пора ли самим ещё чуть-чуть нажать на газ.
Противоречия, впрочем, почти нет. Если тормозят все — это безопасность. Если тормозит одна Anthropic, а OpenAI, Google и остальные продолжают выпускать всё более мощные модели, получается уже не безопасность, а довольно дорогая форма хорошего воспитания.
Смешно, да не очень
Это практически учебник по теории игр: ситуации, когда каждому участнику выгодно общее соглашение, но никто не хочет первым делать шаг, который может ослабить его лично.
- Все понимают, что скорость AI может стать проблемой
- Все хотели бы, чтобы конкуренты тоже были ответственными
- И каждый вполне резонно подозревает, что именно в тот момент, когда он проявит ответственность — сосед торжественно представит новую модель 😂
Поэтому формула для ИИ-отрасли постепенно становится почти безупречной:
Тормозить надо всем. Первым — никто не готов.
SIGNAL
Главная проблема AI safety — то есть безопасности самых мощных моделей— уже не в том, видят ли компании риски.
Вопрос теперь гораздо неприятнее: Кто согласится первым заплатить за осторожность своей долей рынка.
Так что запятая в заголовке получается неожиданно дорогой:
AI: тормозить нельзя ускорять.
И индустрия пока предусмотрительно её не ставит.
⚡️ вт · 22 сентября · 09:09 · plugoShots 201 — где ставить запятую?
@plugoNews — технологические (и не только) инсайты по будням в 09:09