"Теперь Бог есть" Илон Маск с помощью анекдота предупредил об опасности ИИ

Илон Маск вспомнил анекдот о создателях суперинтеллекта в контексте обсуждения предложений об остановке развития нейросетей и искусственного интеллекта.

«Старый анекдот о технологах-агностиках, создающих искусственный суперинтеллект, чтобы узнать, есть ли Бог. Наконец они заканчивают и задают вопрос. ИИ отвечает: «Теперь есть»

На этой неделе Илон Маск и другие известные бизнесмены и исследователи в области искусственного интеллекта подписали открытое письмо, в котором призывают приостановить разработку нейросетей, более мощных, чем GPT-4, хотя бы на полгода. Более тысячи специалистов ИТ-отрасли, включая Эвана Шарпа, сооснователя Pinterest, и Стива Возняка, сооснователя Apple, присоединились к этому призыву. Цель приостановки разработки заключается в необходимости разработки протоколов безопасности в сфере искусственного интеллекта.

Участники, которые подписали письмо, выразили опасения о том, что системы искусственного интеллекта с возможностями, сопоставимыми с человеческим интеллектом, могут быть опасными для общества, и поставили вопрос о том, стоит ли рисковать потерей контроля над цивилизацией.

«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий»