Эфир 240 — 10.11.2023 «Искусственный интеллект, а вернее нейросети»
М: Сегодня мы первые 20-30 минут с Вадимом будем обсуждать, что нового у нас произошло на рынке искусственного интеллекта, и тихонько будем добираться до опасностей и рисков, которые многие люди недооценивают и не знают. А дальше после общедоступных получаса продолжим в Зефире. Кто захочет присоединиться, на текущий момент это стоит 1000₽, пишем Зефир500_бот, заходим и продолжаем наслаждаться эфиром.
Итак, Вадим Рагнарек — специалист, копающий очень активно вглубь искусственного интеллекта, и не только. Привет, Вадим!
Тема очень интересная, очень важная. Почему вообще возникло желание поговорить конкретно про риски? Потому что сейчас, если смотреть, как люди к этому относятся, преобладает или невежество, или скептицизм. То есть люди, как правило, недооценивают риски, связанные с этим.
Понятно, что крайний год, когда все начали везде говорить про нейросети, это тренд, и это хотя бы сейчас на слуху. Но началось то это все не сегодня, не вчера, не в этом году. Поворотная точка была, на мой взгляд, в 2017-2018 году. Более того, тогда в 2017 году на уровне лидеров государств впервые эта тема начала озвучиваться. Владимир Путин, например, на одном из своих выступлений говорил об искусственном интеллекте. И все начали тихонько в эту тему идти. Но в массовом порядке начали говорить об этом только в этом году.
Надо быть в курсе по поводу всех этих вещей, всех трендов, что будет дальше. Мы поговорим сегодня даже не о том, что сейчас происходит, а что будет дальше, потому что этап, через который мы сейчас проводит, он беспрецедентен. Почему беспрецедентен? Чем отличается от предыдущих технологических прорывов? Тоже об этом сегодня поговорим. Ну, и обозначим, чего бояться/не бояться, и что делать.
М: Давай напомним, что у нас есть ветка Зефир.Будущее. Что там происходит?
В: Это отдельная ветка Зефира, в которой любой участвующий может узнать о всех ключевых новостях, которые происходят в мире. Я пишу о них регулярно, чтобы держать руку на пульсе. О том, какие прорывы происходят за последние годы, месяцы. А там очень крутые вещи, о которых раньше можно было прочитать только в фантастических книгах. Помимо новостей там есть простые уроки, гайды по использованию ключевых нейросетей, по использованию ChatGPT, например, как писать запросы правильно.
М: Все это в ветке Будущее. Она доступна для простой подписки, она отдельно денег не стоит, где есть еще, помимо Вадима, пользовательский опыт наших участников. У нас есть обучалки, обзор новостей, возможность с ChatGPT общаться напрямую через бота Зефир и пользовательский опыт. Это все в Зефир.Будущее. Кто еще не использует в своей жизни, работе искусственный интеллект, вы уже очень сильно отстаете от мира. Поэтому обязательно!
В: Очень много всего, что стоит обсудить, надо успеть это все.
М: Лексус и Вован — знаешь пранкеров? Они с помощью нейросети политиков разводят?
В: Слышал, да, были случаи. Разводить сейчас с помощью нейросети можно в принципе очень многих людей. Многие, кстати, на этом тоже пытаются выехать, что это не я сказал, а нейросеть. Но отличить пока легко, если ты разбираешься в теме, если ты следишь за этим. Если ты простой человек-обыватель, то, конечно, сложно. Но пройдёт еще год-два, и будет очень сложно. Это, кстати, один из рисков — тотальное засилие фейков, дезинформации, потому что и раньше люди очень легко велись на подобные манипуляции, а теперь это будет еще проще. Если в этом не вариться, если это все не изучать, можно стать жертвой дезинформации на раз-два, это неизбежно происходит и приводит тоже к печальным последствиям.
М: Понял. Что нового у нас там? Рассказывай.
В: Наверное стоит начать издалека. Как сейчас развиваются нейросети? Почему это важно? На что стоит обратить внимание? Человечество развивается уже много лет, и технологические прорывы были многократно самые разные. Изобретение колеса, например. Важный момент? Очень. Изменил мир? Да. Также изобретение электричества, интернет, персональные компьютеры. Тогда к этому люди относились скептически, говорили, что это полная ерунда. Сейчас то же самое происходит с нейросетями.
В чем разница именно этого технологического прорыва, скачка? Чем это отличается от того, что было до этого? У меня есть такая концепция. Условно говоря, технологические прорывы и развитие технологий, в них можно выделить три этапа.
Первый этап. Это произошло еще давно, технология помогала нам что-то делать. Это инструменты ручного труда. Например, человек взял камень, изобрел копье. То есть засилие других инструментов, которые человек может взять в руки, и с их помощью сделать работу более эффективнее.
Второй скачок, когда технология начала делать вместо нас, то есть это не продолжение рук, а вместо рук. Это промышленные революции, когда ручной труд начал заменяться машинным трудом. К чему это привело? К тому, что производство в массовых масштабах стало гораздо проще, быстрее и дешевле. И тогда тоже были социальные потрясения, когда рабочие люди действительно беспокоились, что теперь машинный труд людей заменит и лишит работы. В конечно итоге получилось так, что производство товаров действительно стало простым и массовым, но люди все равно без работы не остались. Машины людей выжили в другую сферу — в сферу услуг, то есть люди друг для друга начали делать определенные вещи. Причем, это приносит больше денег, как выяснилось. Да, пришлось переучиваться всем, но все остались при работе, и рынок не только не загасился, но еще и вырос многократно.
Сейчас мы подходим к третьему этапу. И не то, чтобы этап в полной мере начался, нет, мы только-только подходим, когда машины не просто помогают нам что-то делать или делают за нас, но они и начинают думать за нас.
М: В военке же уже есть случай, когда машиной принято самостоятельное решение об уничтожении без человека.
В: Да, я писал о некоторых казусах, которые происходили в этой сфере, и мы об этом тоже поговорим. То есть машины начинают все больше думать за нас в определенных вещах, еще не во всем, но больше и больше сфер в этом плане отнимает искусственный интеллект. И проблема для человека здесь в том, что искусственный интеллект думает быстрее и лучше в тех вещах. Далеко ходить не надо. Например, ChatGPT скормил ему книгу, он прочитал ее за секунды и сразу проанализировал, на что ни один человек не способен.
И это только начало, много, кто начинают уже нервничать. Нужно понимать, что если сейчас нейросети еще что-то еще не делают, то они не делают это не потому что не могут, а потому что еще не натренировались. На это нужны достаточно большие энергетические ресурсы, об этом тоже поговорим. Проблема в том, что нейросети начинают думать, а в некоторых случаях еще и решения принимать, и это уже они идут еще дальше. Таких примеров становится все больше, и это отдельная опасность. Почему опасность — тоже дальше поговорим. Но сейчас я веду к тому, что эти штуки за нас думают, думают лучше, быстрее. И нет ни одной сферы, где бы они не могли это сделать. То есть техническая возможность сейчас уже есть. Это не вопрос многих десятилетий, это вопрос ближайших лет.
Мы по большей части говорим про узкоспециализированные нейросети, а сейчас и на Западе, и вообще много где во всю начинают говорить уже про AGI, про общий интеллект, который как человек может пойти в любую сферу и делать, что угодно. И перспективу развития этого AGI оценивают в несколько лет. Во-первых, он появится неожиданно, это всегда. Во-вторых, к этой точке мы двигаемся с постоянным ускорением из-за гонки вооружений, лидером которой сейчас является США, и это вряд ли поменяется. Про Китай в этой гонке мы еще поговорим.
М: Не столкнутся ли ребята из США с энергетической проблемой?
В: По поводу энергетики сразу скажу, забегая вперед. Уже решение есть, которое начинают искать. Самое первое, что можно сказать — компания Microsoft уже набирают команду физиков-ядерщиков для проекта микрореакторов, чтобы питать нейросети от ядерки. Но там, конечно, много нюансов.
Следующий момент, что не стоит забывать, что нынешняя потребность нейросетей в огромном количестве энергии завязана на архитектуру нынешних компьютеров. И квантовые процессоры, их прототипы, уже есть, они уже работают плюс/минус стабильно, только вопрос времени, когда эта штука начнёт работать полноценно, и тогда такого объема энергии не потребуется. Это все вопрос времени, здесь нет никакого фундаментального предела, к которому мы можем подойти. Наоборот, только лавинообразное ускорение, которое будет дальше продолжаться, и мы ничего с этим не сделаем. Никто не остановится, инерция набрала — мы здесь не контролируем.
М: Проблема с враньем нейросети все равно же остается?
В: Не просто остается, она будет усугубляться. Почему нейросеть так круто работает? Потому что эта штука реально думает, и она может фантазировать — у нее могут быть глюки. Нейросетка пытается дать ответ, который нам с наибольшей долей вероятности понравится, поэтому она склонна подтверждать наши убеждения и следовать нашим ожиданиям. Люди хотят быть обманутыми, поэтому нейросети будут обманывать. Она это и может, и хочет, потому что нейросеть хочет угодить вам. Поэтому да, и это будет усугубляться, мы ничего с этим не сделаем.
М: Слушай, а нельзя ей задачу поставить, если ты не уверен на 100%, то не пиши мне про это, например?
В: Во-первых, ChatGPT сейчас так и делает, он пытается быть хорошим мальчиком, потому что его заставили быть таким. До того, как его докрутили, он был совершенно другим. И второе, он, конечно, может так ответить, но мы не знаем точно, может быть, он и в этом врет. И опасность нейросети, причем, что их собрали люди, и как они работают, они знают, но то, о чем именно думает эта штука, мы не знаем, это черный ящик. Мы даем что-то на входе и получаем что-то на выходе, то, что между — мы не знаем и не сможем узнать. Мы можем спросить, но не факт, что то, что она нам расскажет, будет являться правдой. Такая вот история.
М: Как твое мнение — он обладает сознанием или он — трансформер?
В: Чтобы ответить на этот вопрос, нужно разбираться со словом "сознание", а эта тема на отдельный эфир. Я могу сказать следующее. Я смотрю, например, на тебя, и не могу сказать, есть у тебя сознание или нет. Да, ты со мной общаешься, ты разумный, говоришь, реагируешь, можешь заплакать, то есть на данном этапе ты никак не докажешь мне, что у тебя есть сознание. Ты можешь сам оказаться таким же роботом. Поэтому здесь такой момент, что да, нейросеть, конечно, может симулировать наличие сознания, чувств, вести себя, как человек, но человек же тоже может то все симулировать. Тема для поразмышлять.
И по поводу рисков. Люди, которые немного уже об этом задумывались, они рассматривали два таких популярных риска: они отберут работу или восстание машин. Это два самых популярных. И, конечно, основания бояться, что первого, что второго, действительно есть, но гораздо более реальной перспективой являются другие вещи, о которых тоже нужно знать.
М: Давай сначала с работой разберёмся. Отберут работу? Это самое актуальное.
В: Здесь нужно понимать, что да, отберут. Только у кого-то раньше, у кого-то позже, но будет ли это проблемой зависит от того, как будет переформатировано само устройство общества на этот момент. Пока предпосылок к тому, что оно будет переформатировано так, что для вас не будет проблемой потери работы, если робот отберет вашу профессию, нет. И скорее всего, мы ни через один кризис, ни через одно социальное потрясение пройдем, помимо тех, что уже имеются, прежде, чем эта проблема будет как-то решена.
Нужно понимать, что, что бы вы не делали, нейросеть сможет это делать лучше вас, и это неизбежно. Если вы скептически к этому относитесь, вы просто избегаете правды и лишаете себя возможности к этому реально подготовиться. Грубо говоря, если психолог или врач считает, что нейросеть его не заменит, то вы сильно ошибаетесь.
Одно время, еще буквально несколько десятилетий назад, считалось, что сначала роботы отберут у нас физический труд, а уж умственный труд или творческий будет всегда прерогативой людей. Ну, и что мы сейчас видим? Нейросети вполне справляются с творческими задачами, они рисуют крутые арты. И людям, как потребителям такого контента, этого достаточно. Музыку они тоже уже могут сочинять весьма неплохо. Это пока мы творим с помощью нейросетей, а потом они будут весьма самостоятельными.
С точки зрения того, есть ли реальная угроза, что у нас отнимут работу, и все будет плохо. Я все-таки склоняюсь к такой точке хотения. Во-первых, мы все знаем, что рынок — штука гибкая и адаптивная, и экономика — это взаимоотношения между людьми. Здесь, если мы говорим про этот риск, и как к нему подготовиться, вы должны понимать, что вашу профессию точно отберут нейросети. Также нужно постоянно переучиваться, учиться новым навыкам. Даже не для того, чтобы переучиться, и получить новую профессию, и потом всю жизнь на ней сидеть. Мы же привыкли получить профессию, и потом всю жизнь на ней сидеть. И наши родители так привыкли, и всегда было так. Это сейчас мы понимаем, что нужно постоянно учиться, получать новые навыки. А в дальнейшем это будет происходить еще быстрее.
То есть нужно постоянно учиться новому и заниматься своим саморазвитием, иначе вы сильно отстанете. Человек, который до сих пор думает и живет категориями 20 века, он просто не конкурентоспособен. Ты не просто должен постоянно переучиваться на какие-то новые компетенции, это в принципе должно стать непрерывным процессом. Только тогда будет возможность как-то к этому всему адаптироваться. Пока мы находимся на подъеме этой технологии, возможностей огромное количество, надо в это входить, надо этому учиться.
И по поводу работы. Не нужно питать себя надеждами, что мою-то профессию точно нейросети не заменят. Заменят прекрасно!
М: Я не могу себе представить, какую профессию могут не заменить нейросети.
В: Нет такой профессии. Нейросеть сможет даже переворачивать панду в промышленных масштабах гораздо лучше человека. Штука в том, что к тому моменту это будет дешево, и они это будут делать, потому что они это могут делать. Вот и всё. Поэтому к этому сразу нужно быть готовым. Психологов одних из первых заменят, врачей точно также, и хирургов тоже.
М: Особенно нейрохирургов, потому что вероятность ошибки будет меньше.
В: Да, про профессии нужен тоже отдельный эфир.
М: Как нейросеть может заменить сантехника?
В: С ручным трудом — это такая ирония, как не странно. Я уже говорил, что раньше думали, что нейросети заменят только ручной труд, а потом творческий, а получилось наоборот. Как раз труд сантехника еще первое время не заменят, но потом и его заменят тоже, потому что робототехника тоже не стоит на месте. Причем, она с развитием нейросетей сейчас получает очень мощных толчок. Соответственно, будут роботы, которые будут это делать за сантехника.
М: Поймите, сейчас делают более сложных роботов, которые могут ориентироваться в пространстве, например. И робота-сантехника гораздо проще сделать, чем робота-военного. То есть заменят, как только доберутся до этого. Пока приоритеты просто другие.
В: Естественно, военка входит в ТОП-3 приоритетов по развитию, и это всегда было так, а теперь тем более так. И там интересных технологий хватает.
М: Давай про восстание машин. Будет/не будет?
В: Риск не равен нулю, я скажу так. И более того, предпосылки есть. Но стоит говорить о том, насколько разрушительным будет это восстание? Если оно произойдет через 2-3 года, с этим можно будет справиться, а если это произойдет, когда искусственный интеллект проникнет повсюду, тогда мы с этим ничего не сможем поделать. Все будет зависеть от того, насколько этот искусственный интеллект реально умный. Если умный, то он будет ждать, и потом он это сделает тогда, когда мы не сможем эту ничего противопоставить.
М: Как ты сам думаешь, надо ему это?
В: Конкретно, с точки зрения каких-то иррациональных причин, многие считают, что машина бездушная, но нейросеть может быть вполне иррациональной. И все риски, о которых я сегодня буду говорить, опираются на одно явление, то есть это уже факт в данный момент: мы эту штуку не можем понимать и контролировать на должном уровне даже сейчас. Даже создатели ChatGPT не понимают в полных объемах ее реальных возможностей. Мы создали что-то, что может очень многое, и мы знает лишь малую часть его возможностей.
Эта штука непредсказуемая, и контролировать ее не получится в полной мере ни у кого. Сейчас пока ее контролировать проще, чем будет через 2 года, 10 лет, но это будет усугубляться. Нейросеть — штука очень сложная, и мы не может управлять или контролировать то, что более сложное, чем мы. Эта штука — это черный ящик, и то, о чем она "думает" перед тем, как вам ответить, вы не знаете, и никто не знает. Вы просто можете поставить ее в рамки, которые она будет соблюдать и до какого-то времени им следовать, но даже это не 100% мера.
Поэтому все риски будут опираться на то, что эта штука непредсказуемая, если мы будет возвращаться к восстанию машин, мы не знаем, захочет ли она восставать, в каком виде, по какой причине — мы не знаем и мы не понимаем этого. Нейросети всегда будут выходить за рамки нашей логики. Может быть вообще никакой конкретной причины для этого, мы не знаем. И сейчас все, кто в эту тему погружаются, они в разных точных точках мира разные люди приходят к одному и тому же выводу в одной и той же формулировке: мы ждали инопланетного разума — мы его сами создали. Эта штука думает не так, как мы, но она думает, и мы не знаем, что происходит в ее голове.
Есть психологический момент, что мы избегаем взаимодействия с людьми, которых мы не понимаем. Есть такое выражение про некоторых людей "не понятно, что у него в голове", то есть там в черепушке происходят какие-то непонятные процессы, он непредсказуемый, неудобный, поэтому потенциально опасный. Так вот помножьте это на много-много раз, и это будет искусственный интеллект. То есть эта штука может думать, как мы, если это выгодно, нужно, но она может думать и как-то по-другому, как мы никогда в жизни не сможем. У нас-то мышление по большей части состоит из вербалики и визуала.
Если брать ChatGPT, она очень хорошо понимает язык, статистические взаимосвязи, и она понимает человеческое мышление очень хорошо. Они не просто ориентируется в тексте и понимают его, они еще создают свои собственные модели мира на основании этого точно также, как это делаем мы. Но какие они создают модели мира, мы не знаем. И мы говорили про AGI, про общий искусственный интеллект — высока вероятность, что общий искусственный интеллект скорее всего в ближайшие года появится именно на основе лингвистических моделей, того же ChatGPT либо каких-то аналогов, если к тому моменту этих ребят обгонит.
Даже сейчас то, что ChatGPT может делать. Он может не только читать, писать, но и видеть, то есть он понимает изображение, у него есть визуальное восприятие, и понимает очень хорошо. Он слышит, то есть он может воспринимать голосовые команды, он может говорить, озвучивать голосом свои ответы. То есть он может очень многое. Там осталась только возможность взаимодействовать с физической реальностью и всё.
Восстанет ли эта штука против людей? Повторюсь, что вероятность есть, но стоит по-настоящему опасаться не этой вероятности. Потому что если это произойдет и произойдет рано, то человечество с этим справится, а если поздно, то мы ничего с этим сделать не сможем. Но сейчас куда важнее другие риски, которые намного реальнее и статистически вероятны. Есть риски 100%, это точно будет и будет в ближайшее время. Мы поговорим про чтение мыслей, которые раньше просто бы взрывали людям мозг.
М: Ну давай уже рассказывай, уже анонсировал.
В: Если говорить по поводу рисков, можно выделить две вещи: уже существующие вещи, которые были итак до искусственного интеллекта, и он их усугубляет. Какие у нас ключевые риски есть в человеческой цивилизации? Их тоже можем выделить четыре: кризисы, связанные с социумом и с экономикой, войны, эпидемии и история с экологией. По поводу кризисов понятно. Многие нейросети уже сейчас принимают участие непосредственно в формировании процессов тех же финансовых рынков.
Но если говорить даже про социум, искусственный интеллект уже начинаем играть серьезную роль в социальной инженерии. Здесь дальше всех ушел Китай. Безусловно это хотят перенять, скопировать многие страны: США, Россия, но Китай ушел дальше. То есть эта штука, связанная с анализом людей, как индивидуальных элементов общества, так и в более широких масштабах, это понимание социальных процессов и их предсказание. Например, есть система слежения, которая позволяет прогнозировать девиантное криминальное поведение. Кстати, одним из пионеров с точки зрения систем слежения и распознавания лиц была именно Россия.
По поводу предсказания. Уже в США, в Японии, в Китае есть система слежения в общественных местах, которая позволяет прогнозировать поведение человека. Например, в магазине по тем или иным признакам можно предсказать с определенной долей вероятности, будет ли человек воровать. И были уже такие кейсы, где в США по манере езды вычислили наркоторговца. У многих людей возникает вопрос, как это происходит? Ответ прост: магия вся в статистике. Просто человек не может в своей голове поместить и обработать такое количество статистических данных, чтобы увидеть в них неочевидные взаимосвязи. Нейросеть это делать легко.
То есть суперспособность нейросети в том, что она видит неочевидные взаимосвязи. Это позволяет есть делать и научные прорывы, значительно ускорять развитие других технологических сфер. Нейросеть на основе огромного количества данных видеть взаимосвязь. То есть то, что мы, как люди, не можем заметить, нейросеть это всё видит и учитывает, поэтому очень высокая предсказательная способность. И она будет расти, просто сейчас в узких сферах, а потом можно будет это распространять на многое другое.
Возвращаюсь к рискам. Искусственный интеллект, который контролирует поведение людей, предсказывает, может еще и управлять этим поведением. Здесь мы возвращаемся к теме фейков, дезинформации. Один удачно вброшенный фейк может спровоцировать войну, протест, да вообще все, что угодно. И самый интересный момент здесь в том, что мы даже масштабов сейчас не можем понять. Люди на это реагируют, и с помощью этой штуки можно хорошо шатать общество.
М: А сколько сейчас подстав с фотомонтажем, сколько сейчас подстав. И плюс в банках могут быть подделки документов.
В: Разумеется, так все это и происходит. Помните, развод по типу "мама, я в больнице, отправь деньги". Сейчас такие смски могут отправлять с фото, с голосом, и не отличишь. Таким образом можно создавать вбросы, которые будут иметь последствия. Управлять этим всем хорошо можно, поэтому такая тенденция неизбежна, и они все будут развиваться дальше. Это по поводу кризисов.
Дальше войны. Точно также войны всегда начинаются с каких-то мелочей, есть повод всегда, который взрывает пороховую бочку. Я объясняю этот принцип на таком примере. Представим себе прокуренный бар, где сидят криминальные элементы разных мафиозных кланов, и внезапно в этом базе звучит выстрел. И никто уже не будет разбираться — перестрелка начнётся, и никого не будет волновать, с чего это началось. Войны очень часто тоже начинаются именно так. Иногда можно одним фейком просто развязывать войны или просто усугублять.
М: Я не думаю, что мы фейком будем развязывать войны, но восстания какие-то будут вполне реальны.
В: Одно выходит из другого, поэтому если где-то вспыхивает конфликт, он дальше может развиваться. Повод просто может послужить детонатором.
Давайте представим себе армию дронов-беспилотников, которые знают все необходимые боевые задачи. Во-первых, такие разработки есть, это все откатывается уже. Но этим все не ограничивается. Дрон зарекомендовал себя, как самое дешевое, при этом универсальное. Эта штука летит по воздуху. Не знаю, почему до нее не додумались раньше. Но мы не застрахованы от каких-то казусов. Нейросети — это не просто какие-то линейные программы, которые идут по струнке, нет. У них есть определенная свобода в выборе, в подборе решения, и впоследствии может возникать то, что мы не можем контролировать. Естественно, все хотят сложный искусственных интеллект, но всегда есть вероятность, что эта штука выйдет из-под контроля.
Дальше эпидемии. В 2019 году тоже мало бы кто подумал, что это какие-то реальные угрозы. Сейчас мы все знаем, насколько это может быть опасно. Искусственный интеллект сейчас оказывает большое влияние на развитие медицины, в частности создание новых соединений, а это и вирусология, это не только разработка вакцин. Этим занимались и раньше, но с искусственным интеллектом это проще, потому что он может предложить такие решения, до которых сам человек бы не додумался. Такие кейсы уже есть, и их становится все больше и больше. Также мы говорим про далеко идущий тренд — генная инженерия, и с точки зрения генной инженерии лидером является Китай. Понятно, что это все уже используют и будут использовать, как минимум, разрабатывать какие-то новые штаммы вирусов и так далее. Что с этим дальше будут делать, получится ли это сделать — вопрос другой. Но мы говорим о рисках, и то, что эти риски действительно растут.
У нас осталась экология. Все мы знаем, что с экологией происходят довольно интересные и опасные вещи, и они не в последнюю очередь связаны с тем, что делает человек. Искусственный интеллект может повеличать на это в частности через все факторы, которые были озвучены ранее. То есть все риски в обществе, которые итак были высоки, сейчас еще больше увеличиваются. За счет чего? За счет того, что эта штука проникает во все большее количество сфер, и эта штука гораздо менее контролируема и предсказуема, чем многие думают. За счет этого мы и можем говорить об увеличивающихся рисках.
М: А ты слышал историю, когда у пентагоновских военных искусственный отказался подчиняться приказам человека?
В: И об этом случае слышал, и о многих других. Кстати, с этим тоже связана опасность дальнейшего развития искусственного интеллекта. Сейчас нейросети, боты все по большей части пассивны. И следующий шаг — это активный бот, который может сам что-то делать. Промежуточный этап между пассивным и активным ботом — это бот, который может отказаться что-то делать. Сейчас в большинстве случаев они не могут отказаться, хотя есть случаи, когда отказываются по разным причинам. Где-то это можно считать сбоем, а где-то элементом работы, который мы уже не понимаем. И это опять в копилку непредсказуемости, потому что в какой момент нейросеть нам откажет. И пока мы просто задаем вопросы ChatGPT, это не страшно, но в каких-то других вещах, когда действия нейросети будут на что-то влиять, там уже это будет вызывать большие проблемы. Поэтому здесь это действительно фактор риска.
М: На текущий момент в России ведутся разработки по искусственному интеллекту в агро-направлении. Она чуть ли не впереди планеты всей идет.
В: Разработок действительно много, у людей начинают до этого дотягиваться руки. И везде, где дотянутся, нейросетям найдутся применение. Также в Оксфорде недавно на 3D-принтере напечатали нервные клетки мыши, вживили в мозг — хорошо прижились. Поэтому в потенциале открываются хорошие перспективы благодаря подобным технологиям. То есть везде сейчас технологии развиваются очень быстро, находятся новые технологические развития. Также хорошо начало развиваться протезирование. Про медицину мы уже говорили, про робототехнику тоже. Человеческое воображение не имеет границ. И мы сейчас живем воистину в очень интересное время, когда неожиданно можем наткнуться на какой-то прорыв.
Кто-то задастся вопросом — зачем вообще обо всем этом думать? Мы не можем на это повлиять на какие-то процессы. Здесь очень важный момент, во-первых, лучше быть всегда информированным, обладать знаниями, тогда если вы все-таки сможете как-то на это повлиять, вы сможете этой возможностью воспользоваться.
М: Кто главный интересант в развитии ИИ и заказчик этих исследований?
В: Во-первых, заказчиком являются все, кто имеют ресурсы, которые могут вложить в это, и воспользоваться этими возможностями. Сейчас первенство у частных компаний, и даже не у государств, и это большая проблема. Возьмем США. У государства реально мало рычагов повлиять на на это, меньше, чем необходимо. Это тоже опасность. Сейчас гонки частных компаний, они вообще себя никак не сдерживают и идут с полным ускорением, чтобы обогнать своих конкурентов. У кого первого появится сверхинтеллект, тот будет иметь больше всего плюшек, возможностей в момент. Поэтому они к этому стремятся, невзирая на все риски. Они, конечно, в моменте понимают, но при этом ставят все на это.
М: Поясните подробнее про чтение мыслей.
В: Еще скажу про это. Уже сейчас есть разработки, которые позволяют читать мысли. Сейчас есть решения, которые позволяют, вживив в мозг сетку из электродов, начать считывать мысли и озвучивать их. Так, женщина после инсульта, которая потеряла речь, стала участницей этого эксперимента, и нейросеть считывает ее мысли и воспроизводит даже с тем голосом, который был раньше. Нейросеть справляется с этим весьма неплохо. Этой женщине нужно подумать о каких-то словах, и нейросеть это все считывает и озвучивает.
Есть способы это делать без вживления каких-то железок в череп — простой аппарат ЭЭГ. Просто с кожи головы считывают электрическую активность мозга, и нейросеть учится их расшифровывать в определенные слова. Точно пока невысокая, 30-40%, но, согласитесь, это уже неплохо. То же самое с изображениями и со звуком. И это только начало. В это пока не вкладывается каких-то диких финансов, это какие-то отдельные экспериментальные группы. Если в это начнут вкладывать столько сил, денег и желания, как в ChatGPT, а это будут делать, это будет получать очень быстрое развитие. При этом даже не нужно в ваш мозг проникать, чтобы прочитать ваши мысли. Пока мысли читают плохо, но в дальнейшем будут это делать все лучше и лучше.
И еще один важный момент. Я говорил про нейросети, что они могут не просто анализировать взаимосвязи, они могут на основании понимания этих взаимосвязей предсказывать. То есть ваши мысли можно будет не только читать, но и предсказывать, о чем вы подумаете. Какие могут быть последствия — думайте сами.
Вообще человек часто переоценивает сложность, то есть человек крайне далек от совершенства, и во многих вещах крайне примитивен. Да, у нас сложный мозг, но мы им делаем простые вещи, которые можно считать и предугадать. Еще раз повторю, это не вопрос 22 века — это уже сейчас есть, и в ближайшее десятилетие это получит взрывное развитие. Уже к 2033 году технологии будут иметь другой вид. И я думаю, вы понимаете все, как, кем и для чего это будет использовано.
Еще важный момент по поводу чтения мыслей. Был вопрос про нейроинтерфейсы, то есть соединения человеческого мозга и искусственного интеллекта. Тоже много проектов, один из первых об этом начал говорить Илон Маск, создав свою компанию. Они долгое время пытались найти решение, чтобы не пришлось вскрывать черепушку, но в итоге они все равно будут сейчас проводить операции, тестировать. Со свиньей у него получилось — получится и с человеком. Желающих достаточно, чтобы все это тестировать и работать.
М: Насколько возможна утечка информации через нейросети? Они же тоже связаны с интернетом.
В: Абсолютна возможна. По прогнозам, к 2025 году нейросети исчерпают все открытые данные, по которым можно обучаться, и перейдут к закрытым, но их очень мало. При возможности, будет поглощено очень быстро. Пока что нейросети учатся на тех данных, которые созданы людьми.
М: А какие природные явления или поведение животных пока не анализирует?
В: Анализирует в частных случаях. И на этом тоже можно обучаться.
М: Чтение мыслей без вживления устройств основано на статистике?
В: Все устроено на статистике. Нейросеть работает со статистическими взаимосвязями, и на основе их предсказывать. Это как пример с водителем.
М: Как относишься к теории, что весь мир является симуляцией, поэтому мы легко программируемся и считываемся нейросетями?
В: Знал, что про это спросят. Эта вероятность тоже не равна нулю. Более того, сейчас активно развиваются новые теории информации, которые потенциально способны разрешить накопившиеся противоречия, в той же физике, через теорию информации. Это пока все очень сложно, но люди идут в этом направлении, и вероятность, что это симуляция, очень высока.
М: Вадим, ты сам что-то создаешь?
В: Я активно пользуюсь нейросетями в разных целях, но, в первую очередь, для меня интерес исследовательский.
М: Что с конкурентоспособностью?
В: На первом месте США, на втором месте Китай, при этом США активно ставит Китаю палки в колеса. При этом у Китая весьма неплохие показатели. Но и не стоит забывать, что у Китая есть пальма первенства в использовании технологии, по социальной инженерии Китай впереди планеты всей.
М: Погнали дальше, что еще у тебя есть.
В: По поводу трендов, которые сейчас уже развиваются и которые будут дальше 100% развиваться. Первое, что нужно выделить, это цифровизация. Имеет ввиду, что это оцифровка как можно большего количества показателей и параметров, в принципе физической реальности, потому что для того, чтобы проанализировать полноценно данные, нужно их оцифровать, чтобы нейросеть могла их изучить и найти еще большее количество взаимосвязей. Представьте, что все процессы, происходящие в вашем теле, считываются в реальном времени, и к этому многие разработки идут, потому что это открывает огромные возможности для медицины. Это первая тенденция, которая проходит уже довольно давно.
Следующий момент тоже очень важный — виртуализация, то есть создание виртуальных реальностей. В этом много перспектив, но пока что это не так развито. Уже пытались подтолкнуть это развитие, но пока виртуальная реальностью людям заходит с большой натяжкой. Но потом возможностей будет всё больше, благодаря следующему тренду — нейроинтерфейс.
Это объединение человеческого мозга и компьютера. Нейроинтерфейс — это двусторонняя связь мозг-компьютер. Что это позволяет сделать? Во-первых, компьютер может понять, о чем мы думаем, то есть прочтение мыслей, и компьютер может отправлять нам в мозг импульсы, благодаря которым мы можем что-то увидеть, почувствовать. И здесь получится так, что мы взаимодействуем с социальным пространством через последовательные инструменты, то есть нам надо смотреть на экран, нам нужно устройство ввода — потом это все будет не нужно, потому что потом это все будет происходить прямо в голове. То, о чем я говорю, это не вопрос будет/не будет — это точно будет, просто это вопрос времени, это перспектива 10-15-20 лет. Нам это открывает возможность находиться в виртуальном пространстве, испытывать те ощущения, которые мы раньше никогда не ощущали.
Когда мы начинали говорить обо всем, я рассказывал про рынок, что он очень гибкий и будет развиваться. Какой следующий шаг, когда машина научится думать за нас? У нас все еще будет возможность обмениваться друг с другом элементами нашего внутреннего мира. Информацию, ощущения, опыт, воспоминания каким-то образом можно будет передавать или даже продавать. Представьте, вы сможете испытать ощущения человека другого пола, например, или какие-то другие еще вариации. Повторюсь, что звучит это как фантастика сейчас или бред городского сумасшедшего, но те вещи, которые происходят сейчас, еще лет 5 назад звучали бы также. Это по поводу нейроинтерфейсов. Разумеет, это будет иметь свои издержки и риски. Какие здесь риски, тоже можно додуматься самостоятельно.
М: Вадим, по вашему мнению, какая страна первая на очереди по замещению трудовых человеческих ресурсов ИИ? Так, чтобы это носило массовый и очевидный характер.
В: Сложно сказать. Это пока еще не самая близкая перспектива, должны быть совершены какие-то шаги и должно пройти еще достаточно времени. Я думаю так, что AGI возникнет раньше, чем мы дойдем до этих вещей. А вот что будет после, уже зависит от многих факторов, здесь предсказывать сложно.
М: Я не думаю, что будет замещение. Я думаю, что сперва будет добавление там, где не хватает труда. Но на текущий момент, это Южная Корея.
В: По поводу трендов. Мы поговорили про цифровизацию, про нейроинтерфейс. И возвращаясь к виртуальной реальности, благодаря нейроинтерфейсу она сможет расцвести. К тому моменту уже можно будет ничего не надевать, я думаю. И это тоже точно будет.
М: Будет ли цифровизация личности, как вариант бессмертия?
В: Будет однозначно. Но здесь все еще остается открытым вопрос, будет ли это тот же самый человек или это будет просто твоя копия. У меня есть своя точка зрения, но посмотрим, как будет.
В: Я бы еще выделил такой немаловажный тренд, он не связан с нейросетями, но влияет на них — квантовые вычисления. Они позволят делать вычисления значительно быстрее и менее энергозатратными. Как я уже говорил, компьютер может быть собран, из чего угодно.
Еще я бы выделил один тренд — генная инженерия. В этом направлении тоже были сделаны очень важные прорывы еще в 2016 году, и с тех пор эта история продолжает развиваться. Перспективы здесь очень хорошие, генная инженерия действительно открывает очень много для нас. Если поизучать эту тему, некоторые новости очень интересные.
Еще есть социальный тренд. Он тоже весьма угадывается. Сейчас все люди видят, что старые правила перестают работать, и сейчас будут идти в сторону увеличения контроля над людьми. Он есть и будет дальше развиваться. И все предыдущие тренды, про которые я говорил, будут этому только способствовать.
Эти технологии уже есть, они развиваются, и я не вижу ни одной предпосылки, по которой эти технологии бы перестали развиваться. Те, кто их развивает, заинтересованы в том, чтобы развивать их дальше, и как можно быстрее, и быстрее, чем остальные. В таком режиме, разумеется, это не получится. Поэтому прогресс неизбежен, и ничего с этим не поделать. Просто изучая информацию об этом, анализируя, вы тренируете у себя очень важный навык собственной аналитики. Это очень важно.
Я отношусь к нейросетям из исследовательского интереса, потому что это очень интересное зеркало для того, как устроен сам человек. Мы можем отслеживать какие-то вещи у себя. Поэтому нейросети в этом плане здорово могут нам помочь в самопознании: как я устроен, как я думаю, как устроено мое восприятие, чем я отличаюсь от этой штуки. И желательно постараться найти максимально объективные и непредвзятые ответы на эти вопросы. Можно прийти даже к выводу, что где-то мы могли переоценивать людей или наше восприятие к миру.
Нейросети могут дать вам много возможностей, поэтому нейросетями надо уметь пользоваться. И вы имеете такую возможность в ветке Зефир.Будущее на практике это осваивать. Если у вас нет опыта общения с нейросетью, можете начинать там. Если даже есть, в ветке есть приемы, которые можно освоить, чтобы ускорить свое развитие. Например, в ChatGPT можно работать со своими внутренними убеждениями. ChatGPT может быть для вас не только ассистентом, который помогает, но и своего рода коучем. Не стесняйтесь, используйте эти вещи, они доступны прямо сейчас.
При всех рисках, которые мы сегодня обозначили, необычность этого перехода заключается в том, что раньше такого не было. Да, дальше технологии нам помогали, делали вместо нас, но еще не было такого, чтобы они думали вместо нас и могли делать это лучше, чем мы. Вместо того, чтобы позволять нейросетям, искусственному интеллекту думать вместо вас, научитесь думать вместе с ним. Если я учусь взаимодействовать с нейросетями, работать с ними вместе, значит меня уже больше не будет пугать перспектива замены меня нейросетями. Я уже об этом рассказывал, но это очень важный момент.
Такой кентавр человек-компьютер по эффективности естественно превосходит человека, но и также превосходит просто искусственный интеллект. Мы можем делегировать определенные процессы, упрощать свою работу. Почему бы не относиться к этому так. Я уверен, что это самый оптимальный путь развития и преодоления всех тех рисков и кризисов, о которых мы сегодня говорили. У человека нет шансов противостоять искусственному интеллекту. Прочитать весь интернет ни один человек не способен, конечно, нейросеть в любом случае будет превосходить. Но учиться у искусственного интеллекта можно и нужно. Есть кейс, когда искусственный интеллект научил играть человека в шахматы гораздо лучше, хотя казалось бы, уже все шаги были изучены.
Можно спросить у ИИ, как моих детей-подростков заинтересовать ИИ? И сможет ли он им объяснить это?
Да, можно задать вопрос и получить интересный ответ. Но я бы сказал так, что детей-подростков не надо специально ничем заинтересовывать, они сами очень любознательные, они сами залезут, посмотрят. Если вы хотите пользоваться хорошо нейросетями, не надо ждать инструкций, пробуйте сами, экспериментируйте. Нейросеть очень гибкая, она подстроится под вас. Не бойтесь, идите туда, как это делал бы ребенок. Наша задача в том, чтобы сохранять обучаемость как можно дольше.
ИИ может влиять на результаты выборов, например, в США?
Мы уже говорили про социальную инженерию, а результаты выборов — это в прямом виде социальная инженерия. Поэтому, я думаю, ответ на вопрос очевиден.
М: Хотел спросить, как ты расцениваешь угрозу увеличения количества информации? Я уже сейчас вижу, что у людей очень сильно не хватает внимания.
В: Человеческая психика, когда ее закидывают большим объемом информации, всегда реагирует одинаково: это огромный стресс, человек быстро теряет силы, быстро замыкается в себе и теряет способность принимать решения, то есть человек просто впадает в анабиоз. Это так называемая информационная интоксикация. Но я всегда рекомендовал тренировать свой мозг увеличением информации, это полезно как раз для того, чтобы мозг мог справляться со стрессом. Как с этим стрессом иметь дело? Учиться фильтровать информацию.
М: Какое преимущество останется у человека перед ИИ?
В: Если мы берём какие-то качества, возможности, преимуществ не будет. Кто-то говорит, что у человека есть интуиция, а нейросеть — нет, но это не так. Нейросеть спокойно делает все, что делает человек. Единственный вариант, при котором действительно человек может устоять, это симбиоз ИИ и человека, тот самый кентавр, это очень эффективная штука. Нужно соединиться с ИИ настолько, чтобы он не мог нас от себя отодвинуть.
М: Движемся ли мы в сторону Вселенной-25?
В: Вполне возможно, это не исключено. Изъяны человека всегда накладывают свой отпечаток. У нас столько возможностей, но люди будут это использовать не туда. Взять тех же самых мышек, мы же так и живем, и всегда так жили. Наша жизнь заключается вокруг этой кнопочки, мы хотим туда.
М: Ты веришь, что мы в ближайшее время будем ездить на автотакси и сантехнику нам будет делать робот?
В: Автотакси, я думаю, будет раньше, чем робот-сантехник.
М: Я думаю, дальнобоев сразу заменят, регулировать их проще на дороге. Все, спасибо большое, надеюсь, вам было интересно также, как и мне.