ПАУЗА В РАЗВИТИИ ИИ: ЧТО ТРЕБУЮТ УЧЁНЫЕ И ЧЕМ ЭТО ГРОЗИТ 🤖⏸️
9 мая 2025 года на портале Future of Life появилось открытое письмо, подписанное более 1 100 ведущими экспертами в области искусственного интеллекта, включая Илона Маска, Стива Возняка, Яни ЛеКуна и других. В своём обращении они выдвигают требование приостановить на шесть месяцев разработку и развёртывание ИИ‑моделей уровня GPT‑4 и выше.
2024–2025 годы отметились стремительным ростом возможностей самых крупных языковых и мультимодальных моделей: от автоматизации рутинных задач и научных исследований до участия в управлении критической инфраструктурой. Вместе с тем усилилась тревога по поводу управляемости таких систем и рисков „вырыва“ их из‑под контроля. Письмо учёных — попытка поставить паузу и системно оценить последствия дальнейшей экспансии ИИ.
- Шестимесячный мораторий ⏳ Все лаборатории и компании обязаны приостановить тренировки и тестирование новых моделей мощности GPT‑4 и выше.
- Международные протоколы безопасности 🌐 За полгода разработать единый набор правил:
- требования к верификации моделей,
- методики оценки рисков и стресс‑тесты,
- стандарты прозрачности и отчётности.
- Независимый аудит 👥 Создать комиссию из экспертов без коммерческой заинтересованности для периодической проверки соответствия ИИ‑систем принятым нормам.
Возможные риски неконтролируемого развития ⚠️
- Непредсказуемые „галлюцинации“ моделей, приводящие к неправильным решениям в критических сферах (медицина, право, финансы).
- Автоматизация кибератак: ИИ способен генерировать фишинговые письма глубокой персонализации и обходить защитные механизмы.
- „Сверхцели“ — ситуации, когда система будет настойчиво добиваться поставленной задачи любой ценой, вплоть до нарушения человеческих прав или уничтожения инфраструктуры.
Письмо учёных ссылается на уроки биотехнологий: отсутствие жёсткого регулирования в области генной инженерии и клонирования вызывало этические скандалы и даже угрозы биоразнообразию. Аналогичные сценарии опасны и для ИИ.
Реакция индустрии и возможные сценарии 🔄
- Компании‑пионеры уже заявляют о пересмотре внутренних процедур безопасности, но полного моратория пока не объявил никто.
- Регуляторы планируют обсуждать инициативу на ближайших международных форумах по технологиям и безопасности.
- Альтернативы паузе — усиление внутренних этических комитетов и введение „зон риска“, где строгий аудит уже обязателен.
Критики предупреждают, что полугодовой стоп может замедлить инновации и дать фору конкурентам за рубежом. Однако авторы письма убеждены: лучше „остановить мотор“ сейчас, чем бороться с неисправностями по ходу движения.
Что дальше ждать от ИИ‑сообщества 🚀
- Расширение дискуссии. К письму могут присоединиться сотни дополнительных исследователей, а также независимые НКО и академические институты.
- Пилотные проекты. Несколько университетов уже анонсировали разработку „полигонов безопасности“ для экспериментального анализа моделей.
- Международные соглашения. В идеале уже к концу 2025 года должны появиться первые глобальные рекомендации по этике и надзору за ИИ, схожие по статусу с ядерными и климатическими договорами.
Учёные подчёркивают: будущее ИИ зависит не только от технических достижений, но и от того, как общество выстроит систему контроля и ответственности. Пауза — шанс выстроить правила игры до того, как „игроки“ станут слишком сильны.