Создатели AI начали спрашивать: а он нас точно не убьёт? 😈

⚡️ пт · 18 сент · 09:09 · plugoShots 199 — фобии вокруг AI

Jacob Coxon три года помогал строить передовые ИИ-модели — сначала в OpenAI, потом в Anthropic.

А 8 сентября сел на лавочку в Сан-Франциско, открыл X и сообщил, что увольняется. Причина несколько неудобная для индустрии: по его словам, компании “…мчатся прямо к самосовершенствующемуся суперинтеллекту и играют нашими жизнями”. Пост собрал больше 170 млн просмотров.

Через несколько дней стало ещё веселее. Бывший исследователь Google DeepMind Bilal Chughtai публично предупредил, что AI действительно может привести к катастрофическому сценарию, а руководители крупнейших лабораторий начали всерьёз обсуждать замедление гонки.

TIME посмотрел на всё это и вынес на обложку вопрос почти бытовой: “How dangerous are you?”

В общем, машины ещё ничего не захватили, а люди, которые их строят, уже начали слегка поглядывать на выход.

Одновременно и смешно, и страшно

При этом ИИ-хайп работает как часы: компаниям нужен AI мощнее, инвесторам — быстрее, государствам — раньше конкурентов.

Ситуация – почти образцовая.
Люди внутри гонки говорят: “Бежать так быстро — опасно”.
Люди снаружи отвечают: “Проиграть в гонке — ещё опаснее”

И вся ИИ-индустрия сейчас напоминает человека, который нажал газ в пол и только после этого спросил: “Кстати, тормоза у нас вообще есть?”

SIGNAL

До сих пор AI-гонка была про один вопрос: Кто придёт первым? Теперь появляется новый вопрос: А если финиш гонки — совсем не тот, что нам представлялся — кто первым решится затормозить?

И с этим вопросом, кажется, все гораздо сложнее.

Будем наблюдать!