The Gentle Singularity

В блоге Сэма Альтмана вышел новый пост о том, как и куда мы движемся в новом мире искусственного интеллекта - The Gentle Singularity. Вот основные мысли из его текста:

Мы уже за горизонтом событий
Старт «мягкой сингулярности» произошёл: человечество близко к цифровому сверхинтеллекту, и пока это выглядит менее странно, чем ожидалось.

Повседневность всё ещё прежняя, но ИИ уже умнее людей во многом
Роботы не ходят по улицам, болезни не побеждены, космос далёк; однако системы вроде GPT-4 и o3 превосходят людей в ряде задач и усиливают продуктивность пользователей.

Научные прорывы позади – теперь начинается масштабирование
Трудная часть – фундаментальные открытия – уже сделаны; дальнейший прогресс будет опираться на эти инсайты и резко ускорит научные и экономические достижения.

Качество жизни вырастет за счёт ускорения науки и продуктивности
ИИ-инструменты удваивают и утраивают эффективность учёных; малая новая функция даёт огромный позитивный эффект, но и малое рассинхронизирование масштабирует риски.

Ближайший график

• 2025 – агенты выполняют реальную когнитивную работу, программирование меняется навсегда.
• 2026 – системы находят новые научные инсайты.
• 2027 – роботы способны выполнять задачи в физическом мире.

2030-е: привычная жизнь + радикальные перемены
Люди будут любить свои семьи, играть в игры и ездить на море, но интеллект и энергия станут «очень дешевыми» – два главных ограничителя прогресса исчезнут.

Эффект сингулярности: чудо → рутина
Удивительные способности ИИ быстро превращаются в базовый уровень ожиданий.

Самоусиление и инфраструктурная спираль
Ускоряется разработка лучшего ИИ; экономическая ценность запускает строительство дата-центров и роботов, которые вскоре смогут строить сами себя.

Интеллект приблизится к цене электричества
Автоматизированное производство дата-центров снизит стоимость «единицы интеллекта» почти до цены энергии; сейчас один запрос ChatGPT потребляет ~0,34 Вт/ч.

Социальные вызовы и «новый контракт»
Исчезнут целые классы профессий, но стремительный рост богатства позволит обсуждать новые политики распределения благ; перемены будут постепенными, но крупными по итогам.

Человеческое конкурентное преимущество
Мы генетически заточены заботиться о других людях, а не о машинах.

Скорость открытий вырастет лавинообразно
Возможны скачки: от решения задач по поиску новой формы энергии к колонизации космоса за год, от прорыва в материалах к интерфейсам «мозг-компьютер».

Ключевые проблемы и путь вперёд

1. Решить задачу выравнивания (alignment) – гарантировать, что ИИ будет действовать в интересах людей.
2. Сделать сверхинтеллект дешёвым и широко доступным, без чрезмерной концентрации в одних руках.

Нужен общественный диалог о допустимых границах
Чем раньше мир обсудит рамки коллективного выравнивания, тем лучше.

«Мозг для мира» и триумф «генераторов идей»
Строится персонализированный «мозг», где ограничение – лишь хорошие идеи; «идея-гай» получает своё звёздное время.

OpenAI = компания по исследованию сверхинтеллекта
Большая часть дороги уже освещена, тьма отступает; «интеллект слишком дешёвый, чтобы считать» – достижим.