Уже более 13 миллионов просмотров набрало интервью Джеффри Хинтона, крестного отца ИИ.

Пятьдесят лет Джеффри создавал искусственный интеллект. Теперь говорит, что машины могут уничтожить человечество. Безработица, кибератаки, подтасовка выборов, вирусы, роботы-убийцы — далеко не полный список, что нас может ждать впереди.

Что делать людям в таком мире? Учиться на сантехника. Пока... пока не появятся гуманоиды.

Звучит бредово. Но это говорит Джеффри Хинтон — человек, без которого, возможно, не было бы ChatGPT, Gemini, Grok и других нейросетей. Лауреат премии Тьюринга, чьи работы по нейросетям легли в основу современного ИИ.

Ниже разберем основные мысли из интервью Джеффри Хинтона.

А пока – не забудьте перейти и подписаться на канал «Виктор Вещает», где мы открыто говорим про современный маркетинг и искусственный интеллект

Почему вас называют крестным отцом ИИ?

Раньше было не так много людей, которые верили, что можно создать искусственный интеллект, подобный человеческому мозгу. Я продвигал этот подход полвека.

Затем Google приобрела эту технологию и я десять лет проработал там над тем, что сейчас постоянно используется в ИИ.

Какую опасность несет ИИ?

Я понял, что однажды эти существа станут умнее нас.

Существуют риски, которые исходят от людей, которые злоупотребляют ИИ (кибератаки, биологическое оружие, вмешательство в выборы). И есть риск того то, что ИИ станет сверхразумным. Он решит, что мы ему не нужны.

Это реально, потому, что они (компании и государства, которые развивают ИИ) не собираются это останавливать, ведь ИИ слишком хорош для слишком многих вещей.

Когда вы поняли, что ИИ может быть опасным?

Я довольно медленно осознавал риски. Часть из них были очевидны.

Например, то, что люди применят ИИ для создания автономного летального оружия. Эти штуковины сами решают кого убить.

Другие риски, вроде идеи, что однажды машины станут умнее нас и, возможно, мы станем ненужными, — я осознавал долго. Другие люди поняли это еще 20 лет назад. Меня это начало волновать всерьез несколько лет назад — и это реальный риск, который, возможно, наступит скоро.

Как я мог этого не предвидеть? Хороший вопрос.

Но помните, 20–30 лет назад нейронные сети были очень примитивны. Они были далеко не так хороши, как люди, в таких вещах, как зрение, язык и распознавание речи. Идея, что нужно беспокоиться о том, что они станут умнее людей, тогда казалась глупой.

Никто не знает, что произойдет

Мы никогда не были в такой ситуации. Нам никогда не приходилось иметь дело с чем-то умнее нас. И мы понятия не имеем, как с этим справиться. И любой, кто скажет, что он точно знает, что произойдет и как с этим справиться, — говорит ерунду.

Мой друг Ян Лекун говорит: «Нет-нет-нет, мы создаем эти штуки и мы всегда будем их контролировать. Мы создадим их послушными».

А другие люди, вроде Юдковского, говорят: «Нет-нет-нет, эти штуки точно нас уничтожат. Если кто-нибудь создаст это (сверхразум), оно нас уничтожит». И он в этом уверен.

Кто прав? Я думаю, обе эти позиции — крайности. Скорее всего, правда посередине.

Почему ИИ не остановить?

Он великолепен в здравоохранении, в образовании и, более-менее, в любой другой отрасли, где используются цифровые данные. Так что люди никогда не остановят разработку.

Еще мы не собираемся это останавливать, потому что ИИ хорош для боевых роботов, и ни одна из стран, которые продают оружие, не захочет это останавливать.

Например, в Европе есть закон о регулировании искусственного интеллекта. Это хорошо, что он существует. Но он не купирует большинство главных угроз. В нем прямо прописано, что эти правила не распространяются на военное применение ИИ.

Так что правительства готовы регулировать компании и людей, но они не готовы регулировать самих себя.

Другая причина, почему ИИ не остановить, это капитализм. Большие компании хорошо служат нам, производят много товаров и услуг. Но по закону они просто обязаны пытаться максимизировать прибыль. А это не то, чего вы хотите от людей, разрабатывающих эту штуку.

Регулирование вообще реально? Кто должен его осуществлять?

Нынешние рамки слабы и фрагментированы: правительства готовы регулировать компании и граждан, но не себя в военной плоскости. Нужен масштабный международный режим безопасности, но политика сегодня движется «в неверном направлении», а гонка держав и корпораций подталкивает к риску.

Что по рынку труда: кого «накроет» раньше?

Риск массового вытеснения высок уже в ближайшие годы: от колл-центров и бэк-офиса до «белых воротничков» (юристы, бухгалтеры, креатив).

Уже слышны кейсы, где компании сокращают тысячи позиций благодаря агентам/автоматизации. UBI не решит вопрос смысла: людям нужна цель и вклад, иначе счастья не будет.

Что говорить молодым о карьере? Какие навыки сейчас разумно выбирать?

Честный ответ — не знаем. Физическая манипуляция миром (ремёсла, профессии с руками) останется дольше. Общий совет детям и молодым — искать то, что реально интересно вам и приносит пользу другим.

И да, прагматично: «если без финансовой подушки — выучись на сантехника»

Что делать «здесь и сейчас» — людям, компаниям, государствам?

Срочно инвестировать в безопасность ИИ и фундаментальные исследования по конструированию систем, которые не захотят вредить людям; готовиться к рыночным шокам занятости (переподготовка, подушки, новые институты смысла); усложнять злоупотребления (био-гейткипинг, анти-дезинформация, ограничения автономного оружия).

При этом понимая: простых рецептов нет, и «идеального» регулятора сегодня не существует. Поэтому мы должны стремиться его создать

В общем и целом – в интересное время живем, родненькие... Не забудьте на канал «Виктор Вещает» подписаться, чтобы быть в курсе актуальных тем маркетинга и ИИ.