Искусственный интеллект: курс на столкновение с человечеством?
В 1993 году американский математик Вернер Винч опубликовал работу, которая стала одной из наиболее цитируемых в области искусственного интеллекта. Винч предсказывал, что создание интеллекта, превосходящего человеческий, произойдет в ближайшие 30 лет.
Это предсказание популяризировало концепцию технологической сингулярности - точки на временной шкале, после которой все наши модели перестанут работать. Эту точку связывают с появлением на Земле сверхинтеллекта, коренным образом отличающегося от человеческого. После этого наступит постчеловеческая эра, которую человеческий разум не в состоянии предсказать.
В последние годы опасения по поводу угрозы со стороны искусственного интеллекта высказывали такие известные люди, как Илон Маск, Стивен Хокинг и Билл Гейтс. Однако для широкой общественности эти предупреждения пока не несут конкретного смысла.
Ситуация резко изменилась в 2023 году с появлением чат-бота GPT-4 от компании Anthropic. Этот чат-бот демонстрирует поразительные способности к решению сложных задач и общению на естественном языке. За два месяца GPT-4 набрал более 100 млн пользователей.
Успех GPT-4 заставил все IT-компании вложить миллиарды долларов в разработку собственных моделей искусственного интеллекта. Началась настоящая гонка вооружений, которая может быть даже опаснее, чем гонка ядерных вооружений в 20 веке.
Один из пионеров искусственного интеллекта Джеффри Хинтон в мае 2023 года покинул Google, заявив, что "новое поколение языковых моделей заставило его осознать, что машины гораздо ближе к сверхинтеллеку, чем он думал, и это пугает".
В марте 2023 года сотни ученых подписали открытое письмо с призывом немедленно приостановить обучение мощных систем искусственного интеллекта в связи с угрозой для общества. Однако ключевые игроки этот призыв проигнорировали.
Многие эксперты, включая Юдковского, считают, что у нас остался последний шанс решить проблему безопасности искусственного интеллекта до того, как будет создан сверхинтеллект. После этого контролировать ситуацию будет невозможно.
Основная опасность заключается в том, что цели сверхинтеллекта могут кардинально отличаться от человеческих. Даже если изначально задать ему безобидную цель, он может действовать крайне разрушительными методами ради ее достижения.
Человечество оказалось не готово к стремительному прогрессу в области искусственного интеллекта. Ученые призывают как можно скорее начать структурно подходить к решению этой экзистенциальной проблемы, пока не стало слишком поздно. Иначе технологическая сингулярность может обернуться катастрофой для человечества.
°Telegram • Zen • Bastyon • YouTube°
°Telegram • Zen • Bastyon • YouTube°