Почему ИИ не сможет хакнуть человека?

(59) Почему ИИ не сможет хакнуть человека? - YouTube
https://www.youtube.com/watch?v=XKT0_QfUays

Transcript:
(00:03) [музыка] Добрый день Говорит Радио Свобода показывай телеканал настоящее время в эфире программа археология студия Сергея Медведев новый Google явился появление чат-бота чат gpt в ноябре 2022 года стала сенсацией алгоритм дает ответы на сложные вопросы пишет рефераты статьи программирует сочиняет музыку предполагается что он может лишить работы аналитиков юристов преподавателей журналистов Может ли чат-бот заменить или вообще отменить человека и что такое вообще человек говорим об этой в нашей сегодняшней программе И сюжете Антона
(00:49) Сергиенко [музыка] в ноябре прошлого года компания openai запустила чат gpt который изменил мир нейросети Давно не новость но Приход этого чат-бота в купе с обновлениями других продуктов например миджони которая распознает печатный текст и преобразует его в картинке стал важнейшим событием в рамках искусственного интеллекта а возможно и во всем мире Бот проходит собеседование на работу в Google пишет диссертации пишет Стихи и песни выстраивает прогнозы финансовую аналитику и даже может генерировать простейший код нейросеть
(01:24) вполне способна стать инструментом дополняющим многие профессии если и вовсе не изменить рынок труда оставив без работы копирайтеров аналитиков бухгалтеров журналистов и других общаться с сеть способна на многих языках мира в том числе и на русском уже сейчас технологию можно встраивать сайты и приложения например Microsoft собирается интегрировать технологию во все свои продукты что в будущем очень сильно изменит рынок а также и само понятие поиска что может стать угрозой для того же Google Что изменилось в мире
(01:54) после прихода эры нейросетей в каких областях их будут использовать и чему ещё может научиться или научить чат gpt Привет Это был сюжет Антона Сергиенко а с нами на связи писатели философ Андрей баумейстер Андрей добрый день и it Эксперт Михаил Гуревич Добрый день Михаил Добрый день Миша к вам первый вопрос Это что действительно убийца Гугла это или это все-таки такой хайп последних недель последних месяцев отовсюду чат gpt или это такая действительно микро революция или даже макрореволюция происходит в сфере поиска интеллектуального поиска в
(02:36) сфере генерирования текстов это на самом деле упрощение которое стало доступно широким массам Наверное если приводить какой-то аналог то стоит вспомнить про iPhone компания Apple была не первая которая изобрела тачскрин Однако если сегодня спросить обычного пользователя у кого какого телефона появился первый тачскрин экрана который мы нажимаем и набираем текст и так далее то люди даже у которых были эриксоны там и другие модели с тачскринами не вспомнят их а скажут про iPhone А так что оп и най э со своим чат-ботом уже с
(03:18) четвёртой версии существенно упростило использование тех наработок которые существуют и э появляется в нашей жизни уже даже не первые десятилетия то есть условно говоря искусственный интеллект это Хай последнего наверное десятилетия среди разработчиков но теперь вот они буквально за 2 месяца набрали 10 100 миллионов пользователей свой продукт и это абсолютный рекорд напомню что для Инстаграма Если не ошибаюсь два года заняло набирать 100 миллионов пользователей tiktok 8 месяцев рекламировал себя а вот без особой
(03:59) какой-то рекламы получилось 100 миллионов активных юзеров буквально за два месяца И в этот момент это стало безусловно информационным таким хайпом который послужит добро потому что больше попыток использовать больше наработок больше проверок соответственно больше выявленных ошибок и Прогресс я думаю будет развиваться буквально на наши глаза Ну то есть здесь некий переход количество в качество те наработки которые были последние годы здесь просто вышли в некую так сказать было собрано некие продукт Да который все эти
(04:33) наработки вывел уже на рыночный уровень И кстати говоря о рынке говорят не знаю верите нет что к концу года опа на и одна мужа и я и может стать одной из крупнейших в мире компаний по рыночной капитализации с половиной Гуглом и фейсбуком как раз очень интересно Обычно когда появляется какой-то хайп особенно рынка стартапов то используют эти наработки в первую очередь маленькие стартапы маленькие компании которые пытаются внедрять их свои идеи и собственно говоря вот привлекает инвесторов На каких-то таких вот свежих новаторских
(05:11) инновационных подходах в данном случае мы видим как крупные корпорации одна за другой запрещённая в России нет Google Майкрософт snapchat и прочие интегрируют разработки которые есть э-э значит интегрирует свои существующие продукты не просто какие-то новые инновационные мы попробуем а-а что-нибудь так работать как это происходит с цены например очками виртуальной реальности то есть там тоже вкладывают инвестирует объявляет об этом пресс-службы но это обычно звучит как вот мы создаем специальное исследование подразделение
(05:54) которое будет этим заниматься будем создавать какие-то вселенные и когда-нибудь это дойдет до простых пользователей в данном случае практически все новости говорят о том что существующие продукты уже сейчас Apple говорит о внедрении технологии в Сирии соответственно Microsoft как был упомянуто в сюжете запустила Microsoft какого файла Эта система которая будет Open G5 внедрять в офисные продукты тоже самое делать и так далее понятно здесь хочу как раз к Андрею обратиться Андрей вы так сказать с философской точки зрения я смотрю читаю с
(06:36) удовольствием ваши подкаст и на патреоне А за вами слежу А вы экспериментируете с чат gpt и э Хмм так сказать философский Я тоже к нему подходите и вот мне как раз хочется задать вопрос с когнитивный что ли точки зрения в чем революция чата gpt по сравнению с Google мне кажется что здесь выдается выдача человеку происходит уже в виде связанного текста а это именно то что ищет люди им нужен связный текст Да убедительный связанный текст на заданную тему Не просто ссылка не просто Линк не просто картинка а именно текст который
(07:15) даже вне его релевантности вне его истинности об этом поговорим является связанным вот что как вы считаете Есть ли в этом революционность Мне кажется да это возможность но пока еще говорить рано об этом первые шаги Но это возможность иметь такого парень партнера тренера такое обучалку полезным с которой можно взаимодействовать и которая может усилить вопросы поиск человека исследования в тех или иных сферах к сожалению gpt не может это делать и на примере моих вопросов пока показывает ситуацию что он выдумывает
(07:56) действительность больше в моей сфере он фактически такой обаятельный вру который сочиняет то чего нет А то что есть в интернете не хочет обобщать Ну да уже выдумал ваша биографии Да вы задали Расскажите мне безумно понравился этот сюжет несколько возможных Андреев был мессером американский физик спросил кто такой Андрей он придумал совершенно историю еврейского философа либо уместтера который дружил с Иваном Франко Микола их волевым и так далее и на наводящие вопросы потому что там были нестыковки некогерентность он извинялся и постоянно
(08:39) переписывал эту историю пытаясь преодолеть разные противоречия это помимо того что в интернете естественно есть много не на всех языках фамилий было Мистер есть и философы художники архитекторы психолог американский но его не интересуют люди пока не интересует что есть сети его больше интересует творчество Так что я бы сказал такой обаятельный вежливый лгун которого не интересует обработка данных и выстраивании поиска исследователя например психолога историка философ физика а Его интересуют как это можно создавать как второй мир
(09:20) вымышленный такой хлестаков да такой цифровой хлестаков которого несет да а стопы несло и вот в чем сила Хлестакова в том что он говорит связано Почему ему удается обаять все губернское общество потому что он владеет дискурсом и вот мне кажется что сила чата gpt в том что он овладел искусством вот это вот дискурса связанные речи которые обладают властью и он её проецирует и поэтому вот эти вот сотни миллионов людей ведутся один момент интересный для всех нас э Алексей спрашивал об отрывках из моих вымышленных книг и чат давал список
(09:59) блестящих цитат Они настолько банальны они красивые обтекаемые но от них грозит вот такой банальностью да что ну читать это невозможно но там были курьерные явления что-то Маркс что-то там сделал убил человека в насекомом что-то такое но в принципе это был такой набор банальных фраз который он тут же комбинирует Но тот же хлестаков хлестаков тоже пошляк и этой бравирует и вы знаете да мне ваш сюжет напомнил и я тогда написал попомню к вам в комментариях что это чисто борхистовский сюжет Это знаменитый рассказ борхиса
(10:36) помните Лен угбар orbe starcios когда группа анонимных каких-то писателей журналистов экспертов начинает писать энциклопедию вымышленного мира и создает ее Да в издательстве орбиз терцию с вымышленный мир под названием и затем это энциклопедия завладевает реальностью и люди переезжают жить в этот вымышленный мир в этот плён и мне кажется что конечно гений борхиса он вот он прозрел этот чат чат gpt а Хмм и здесь я хочу Михаила спросить Михаил Ну тогда вопрос такой А кто ведь тогда невероятно важна роль того кто задает
(11:12) вопросы Да сам чат gpt он не обладает целеполаганием Да ему надо задавать вопросы Ну тогда возрастает роль вот этого вот как называется промт-инженера так безусловно такая новая профессия будущего которая появляется буквально на наших глазах будет программисты которые будут задавать правильные вопросы а вот последняя версия gpt уже может и программировать простейшие функции пока но это вопросов времени когда он сможет создавать программы Там для мобильные приложения или какие-то полноценные программы для наших компьютеров
(11:47) всё-таки в данном случае я вот э не соглашусь с Андреем уважаемым конечно он агрегирует конечно он не сам создаёт но он просто так показывает нам и так были уверены что вот поиск да Вот я нашёл в интернете ну знаете даже такая а популярная фраза я нашёл в интернете и это профлинг вот доказательства совершенно Безумный какой-нибудь идеи Вот ссылка в интернете попробую её опровергни собственно говоря сейчас же прийти показывает нам вот иногда насколько всё это смешно и фантазийно выглядит он сам ничего не создаёт он
(12:23) агрегирует компилирует на основе самых разнообразных данных издают чтобы было как бы похоже и отвечала на по качеству исполнения отвечало на качество запроса но не есть хочу на этой точке остановиться Да и вас и Андрея затем тот же вопрос но не есть ли это суть Ну не знаю 90 процентов того Чем занимаются Я не знаю школьники студенты аналитики консультанты это просто агрегация ну хорошие рефераты это агрегация доступного массива информации и изложении её систематизированном и убедительным видео как это же вообще это
(13:09) как бы суть практически Да суть нашей жизнедеятельности примерно так Ну примерно Да вот Андрей вот я вас тоже хочу спросить вот мне кажется что вот этот бот он попал как-то в самую сердцевину вот этой вот такой текстуальной такой около креативной деятельности Да он не откроет новые миры Э не напишет возможно философские транк трактат тающих Хотя может когда-то и напишет ставящие вообще фундаментальные вопросы бытия но как бы 90%, вот я не знаю деятельности консультанта юрист консульт там я не знаю экономического
(13:45) бизнес-консультанта А того же я не знаю студента написание дипломные курсовой работы Ну так история становится интересной потому что конечно программа будет совершенствоваться и я уверен что она будет отвечать лучше чем средний студент и даже средний профессор например в сфере гуманитарной потому что в чем на чем строится экзамен мы или даем SC описать Студентам или даем им перечень вопросов на которые они должны дать ответ лучше справиться чем студент с этим заданием и тогда у нас возникает второй вопрос А что тогда дальше как передавать
(14:26) образование философской исторической литературоведческая Как менять направление движения потому что он нас здесь переиграет и мы вынуждены искать другие пути то значит мыслить исследовать задавать вопросы это начнется интересная игра из не прогнозируемым исходом для человека Вот чем дело ну да и вопрос тогда чем собственно студент лучше чата gpt если так сказать потенциальный работодатель вот он смотрит результаты экзаменов вот скажем 20 человек сдали экзамен 15 человек написали при помощи чата gpt пятеро написали там 10 и 10 так
(15:06) работодатель скажет Зачем мне платить деньги за базовые Да там скажем даже код который пишут они как джуны называются младшие кодеры то есть какие Михаила здесь к вам как Какие профессии под угрозой под ударом находятся здесь интересно мы дискутируем часть gpt во многом Генералы которые готовятся к минувшей войне соответственно безусловно чат gpc будет лучше чем студент прошлого Ну пока и сегодняшнего но уже уходящего человека который заучивает какие-то факты значит даты формулировки и так далее Все важнее с каждым годом развития
(15:53) информационных технологий становится всё важнее уметь анализировать уметь анализировать поиск уметь его уточнять уметь анализировать адекватность данных которые вам приходят по поисковому запросу и соответственно уточнять поисковые запрос то есть уметь работать уже с агрегированными данными это новые знания это в общем-то другая другой формат образования во многом и здесь пока часть gpt а для пяти не может задавать тренд развития человеческого мышления да то есть он может реализовывать те задумки которые человек
(16:29) в него вкладывает Поэтому пока гладко будет уверенно нести какую-нибудь чушь часть репетит победит любого студента любого докладчика любого юриста безусловно Однако когда мы изменим подход к знаниям К оценке знаний Что является знаниями в этот момент чат для пяти существующих сегодня версии уже будет не столько грозен и все победим знания тогда должна быть что с точки зрения инновации с точки зрения вот то что называется out of the Box мыслить за пределами шаблона Да уметь анализировать уметь уточнять уметь не верить тому что он читает и
(17:11) понимать откуда Как где источник опять же мы здесь сталкиваемся когда мы говорим про искусственный интеллект из дипфейком и уметь анализировать здесь Да очень интересная мысль вы тоже я сошлюсь на свой преподавательский опыт Я всегда говорю студентам что то чему я вас Пытаюсь научить это не сумма знаний я пытаюсь вас научить критическому мышлению критически оценивать любую фигуру любое заявление свою собственную идентичность постоянно задавать ко всему вопросу Андрей А вот в завершение этой части хочу вас спросить а надо ли
(17:44) ограничивать использование чата gpt на экзаменах в школах и там в университетых вузах или позволить людям воспользоваться а затем уже экзаменатор каким-то дополнительными вопросами может выяснить степень действительного знания мы не сможем ограничить мы должны использовать это в своих целях образовательных но я хочу обратить внимание на то что сказал Михаил Мне кажется идет игра на повышение вот то что мы говорим менять пути образования критически мысли сейчас это небольшая часть людей как и всегда большинство становится здесь не нужны
(18:27) и играя на повышение мы будем требовать друг от друга все большего уровня оригинальности критичности аналитичности но параллельно общая культура в социальных сетях коммуникационных группах понижается Может быть я излишне пессимист но я не вижу что качество аналитики повышается что есть очень достаточное критическая масса мыслящих людей и мне кажется что мы к этому просто не готовы Ну это элитарная культура то есть gpt готовит нас к супер элитарной цивилизации Где где скажем средний человек назовем так обычный человек
(19:09) должен прыгать выше головы это очень серьезная социологическая проблема историческая проблема Если хотите То есть все должно быть гениями все должны критически мыслить Но это биологический физиологически невозможно Позвольте мне сказать такую неприятную вещь применение в разных сферах понимаете Ну да появляется некая новая цель в высшем скажем образовании подготовить к горту людей способных обыграть чат gpt в деле генерации текстов И уж тем более идеей мыслей направлений для мысли и главное ставить Вопросы вот это вот пытаясь
(19:51) понять Чем отличается алгоритм от человека это то что человек все-таки ставит вопрос и алгоритм на них отвечает Но что это мастера только могут это сложно определить с этой мыслей начнем следующую часть нашего эфира Что значит программа археология говорим сегодня новом хайпе в программе чат gpt как говорят убийцы Гугла и в том числе алгоритм который лишит работы многих программистов разработчиков преподавателей журналистов что он из себя представляет и Действительно ли он может заменить человеческое мышление рассуждает Антон Меркуров it-специалист
(20:42) основатель ряда it-проектов [музыка] Итак начнем с того что если личность действительно творческая мне кажется как художнику ее заменить невозможно и если вы как творческая личность опасаетесь значит вы нифига не творческая личность при этом безусловно есть миллион типовых задач которые приходится делать что-то там отрисовать в анимация делают это Миллионы людей и возможно возможно эти типовые задачи можно передать как раз всяким искусственным интеллектом много всяких разных есть вариаций но тут а-а местами Так тут палка двух концах
(21:26) где-то действительно те кто ездил раньше на лошадях с появлением такси автомобилей страдают Да мир меняется надо как-то расти тут скорее побеждает тот кто может это использовать я это использую каждый день меня чат G5 сказку написал у меня вот была задача написать сказку нравится мне это или нет другой вопрос писал но все-таки сделал есть куча проектов которые на базе этого интерфейса делают каких-то чат-ботов помощников еще что-то то есть все как бы зарабатывают как могут и опять же мы видим новый кейсов от написания дипломов
(22:02) книг рисования картины Конг и продавании этих картин на аукционах То есть все видят большой тренд все этот тренд начали оседлать так чтобы вот так оно стало системно Я думаю уже есть очень много компаний где прям реально действительно исчезла куча вакансий которые выполняют типовой труд с которым может а-а справиться искусственный интеллект Так что вот мы сейчас стоим на пике технологии это очень круто но мозг человека ищет кратчайшее решение не существующей задачи а всё-таки чат gpt и другие там все эти нейросеки Они учатся
(22:41) на известном на базе данных и анализирует всё знание человечества и в этом смысле наш мозг всё равно круче И как бы эта штука не реагировала какой Банное восхищение не вызывало А всё равно условно говоря там я художественной стороны могу посмотреть условно говоря Чёрный квадрат может нарисовать только Малевич и придумать эту историю потом повторить сделать абстракционизм может сколько угодно не расседок но провести какую-то эволюцию только человек и конечно безусловно круто это нам помогает э и так далее но всё равно изобретение э и пока решение
(23:19) остаётся SkyNet ещё не наступил Антон Меркуров в разговоре с Антоном Сергиенко Мы возвращаемся к нашим гостям вот я хочу вернуться к тому к той точке на которой мы остановились с Андреем А где вот собственно то ядро то зерно из которого рождается человеческое уникальность уникальность человеческого творчества может быть крамольная вещь предположил дело просто в количестве в переборе Да в базе данных дата сете которые занимаются перебором вот мы так сказать там сначала у них было и не помню сколько там 170 млрд
(23:59) сейчас э 500 млрд в следующем варианте будет полтора триллиона это уже сопоставимо с количеством этих синопсов человеческом мозге вот будет скажем 10 триллионов вариантов перебора может быть Чёрный квадрат рождается в тот момент когда просто чисто механически вырастет количество синусов вырастет количество вот этих вот вариантов перебора и мы может быть напрасно мистифицируем человеческую уникальность творчество способность к прорыву И к тому чтобы творить новые меры Если вы не имеете ничего общего с пионизмом никогда не играли на
(24:36) фортепиано а тем более вынимать мастер Вам трудно насколько отличить игру мастера и группа средств и говорит что вот это хороший пианист Это хороший скрипач может только знающий человек и тогда мы спросим себя а где формула мастерства скрипичной музыки или где формула мастерства живописца их не существует помимо целой инфраструктуры то есть традиции культуры ценителей мастеров публики которая может это оценить пример черным квадратом очень интересен Но ведь истории живописи это не такие уж кардинальные прорывы
(25:14) например появляется натюрморт и появляются тысячи разных оригинальных аспектов натюрморта а иногда те же самые сюжеты которые по-разному варьируются как это определить там был художник который постоянно писал бутылки те же самые бутылки но он делает сто натюрмортов и непрофессионал не понимает зачем это нужно то здесь я завершаю это можно до утра рассуждать на эту тему но мы здесь упираемся в некие барьеры непонятные нам самим то есть критерии размыты это таинственные критерии не теряются Да вот вы правом Это так или иначе мы
(25:53) приближаемся к какому-то трансценденции мистификации мы говорим что нет Вот это то единственное единственное на что способен человеческий гений человеческий интеллект чего не может дать машина а может ли у машины вот я хочу здесь Михаила спросить быть самосознании потому что э-э я читал сейчас одного из разработчиков чат gpt он написал об этом наверное тоже читали В профильной прессе об этом много было то что чат D5 ему дали задачу а писать как работает система и он внутри э виртуальной машины Linux создал ещё один внутри себя самого
(26:36) маленькие чат gpt и начал наблюдать за его функционирование ими описывать что это такое как не сам рефлексия как не самосознание может ли машина обладает самосознание Да ну в рамках той массы знаний эфир законов и той логики которые этой машине доносят назвать это сознанием невозможно возвращаясь к вашему спору вы знаете когда например на разных вариантов машина выбирает неправильно мы называем это ошибкой когда человек то мы называем это гением вот зачастую это бывает таким образом тогда человек действует нелогично это бывает Гениально
(27:16) А когда машина действует нелогичная её надо починить Вот и машина никогда не станет гениальной потому что собственно говоря ошибки будут считаться ошибками вот а Наверное некие подобия сознания не то что наверное безусловно они разрабатываются и есть некие проблески и в определённых задачах они даже как-то реализуются но полноценным сознанием но пока говорить об этом крайне рано и всё-таки вы знаете когда вот мы говорим а как же нам победить этот искусственный интеллект А когда мы изобрели автомобиль это не означало что человек должен был
(27:54) научиться бежать быстрее автомобиля просто изменились задачи Поэтому нам не надо побеждать искусственный интеллект и его разработки надо уметь их использовать И тем самым мы ускоряем свое же движение мы не должны бежать быстрее машины Да мы должны Просто сесть и тем самым мы движемся быстрее да Вопрос Действительно это самую постановки вопроса да Человек против машины что машина что убьёт человека или человек да Или Человек вместе с машиной об этом кстати поговорим заключительный части нашей программы А сейчас я хочу вернуться к
(28:30) Андрею к тому вопросу который мы обсуждали вчера в первой части мир фейков здесь в критическом взгляде означает gpt есть тоже ещё ряд крупных учёных в частности в нью-йорк таймс буквально неделю назад была статья ну как его называют хомские или чамский да под названием дефолтс промесов чат gpt где они сформулировали он рядом коллег его действия как плагиат апатия и уклончи злость неуклюжесть статистический механизм для сопоставления с образцом и Действительно это одна из базовых проблем он не отличает правду от фейка Возможно это
(29:07) невозможного но нет ли здесь риска что мы буквально через несколько лет окажемся в мире наводненном фейками и учитывая способности современных масс-медиа и мифотворчества и желания людей верить в эти вымышленные миры мы действительно окажемся в этом борхическом сюжете наводненном фейком сейчас Извините это даже в Украине мы видим понимаете мы видим как Путин и его приближенные живут в одном огромном фейке осознанно А тут gpt убедительно он еще и картинки подкинет как российские танки победоносно входят в украинские села
(29:42) Андрей видите опасности сходит не только программы и машины а в первую очередь нас самих до того как мы изобрели мощная программа мы сами стали программами причем примитивными и если задавать вопросы Нужна ли нам Истина или нужно ли нам различать истину от лжи или фейк от правды но мы скажем Да да конечно важно на практике мы показываем что нам нужны наработанные успокаивающие нас работающие на нашу идеологию схемы сама Воля к истине если говорить пафосным языком Все менее и менее заметно в широких кругах людей по крайней мере в
(30:29) социальных сетях и вот это вызывает тревогу и здесь программа может не то чтобы использовать в кавычках использовать эту слабость человек Ну и тогда мы совсем не будем пересекаться с разными истолкованиями действительности мы будем совершенно жить в своих норах своих китайских комнатах своих китайских дворцах если угодно нас не будет интересовать реальность а и тогда это новый вызов и даже боюсь предугадывать что это может быть или как кто-то живет своим геленджикском дворце тоже Да вы правы Я сейчас думаю что собственно современный
(31:09) мир дает возможность параллельному существованию нескольких миров существует огромное количество людей верящих что есть плоская Земля Да рекомендую пересмотреть это эпическое интервью Юрия Лозы на территорию другой страны хорошо когда люди в социальных сетях между собой эпатируют друг друга скажем так а другое дело когда начинает вторгаться танки бронетранспортеры и солдаты это уже знаете другой уровень Да это фейк Это огромный фейк который был создан да Российской силы пропагандистской силовой машины которая
(31:46) был вложен в голову людей обладающих абсолютной полнотой власти этот фейк обернулся человеческой кровью то есть вот это вот вымышленная реальность этот борхесовский орби старцус неожиданно вломился в реальный мир и начал убивать украинцев это конечно ужасные Вот здесь мы выходим на ещё одну проблему которую подчёркивает О чём и многие критики вообще искусственного интеллект проблемы морали то что Михаил Да вот это довольно часто обсуждается что в машине Невозможно или очень сложно их научить морали Да решить Ту же самую проблему
(32:19) вагонетки кого можно убивать кого не можно убивать и где границы этики об этом мире как они что-то в будущем Мне кажется мы сегодня уже в этом живем да более того да И это не вопрос как бы какого-то такого непонятного завтра это вопрос К сожалению уже текущего момента и действительно есть наши родственники наши друзья которые живут совершенно в другом мире более того У меня например есть там знакомый в Киеве который видя вот эти вот бомбы которые летят на него продолжают жить совершенно в другом мире и говорить с ним можно Даже несмотря на
(32:57) то что он видит что реальность как бы опровергает его ощущения потому что такое К сожалению э тоже происходит вот ничего нового э то есть ничего принципиально нового впереди мы э Не получим имеем это уже сегодня касательно этических ограничений а существует масса регуляции существует э у вас разработок государственных разных государств и надо государственно органов по ограничению по недопущению регуляции потому Какая нейросеть правильная Какая неправильная напомню что в России ограничен доступ соответственно я честно говоря не помню причину по
(33:45) которой но наверное возможно туда какие-нибудь биологические данные через запросы россиян отсекают знаете тут только мне кажется российское законодательство современное может только опыт GT генерите В общем а-а вопросы морали здесь действительно будут находиться тихо в сторонку Да помните была это метафора Безумный принтер сумасшедший принтер много законодательство оно как раз было написано чатом gpt ещё задолго до его рождения А как запретить людям выходить на демонстрации протеста А какой закон придумать и вот вам сгенериться и вы
(34:24) сможете сказать что это на основе международного опыта потому что окончили причём опыта без проекта собственно говоря этот международный опыт который в общем мы создаем по всей планете в интернете и вовне его просто заносим результаты в интернет а безусловно например с голосовыми помощниками есть известная проблема потому что почему почему вообще Open G5 до сих пор не интегрирован в них и они работают на другой базе потому что они не могут ругаться потому что есть ограничение этические и там в основном предзаписаны шаблоны собственно говоря
(35:08) используются готовые шаблоны которыми вам а там э-э серии мире и там Маруся и все остальные отвечают а если использовать опыт gpt то здесь в общем э достаточно сложно предсказать А как она будет вам отвечать особенно если ты правильно формулировать запрос если слушать все эти если слушать коллективный Разум и как бы это будет слушать коллективные предрассудки человек толпы условно говоря такого на формулирует вот и это же известный опыт Когда программисты и скормили там сексистские стереотипы там и прочие антифеминистские стереотипы российские
(35:46) стереотипы Вот и тогда сеть - это вот как раз по-моему один из экспериментов ранних был гугловских рассказываете какую-то образ А вам рисует обязательно белого человека Да если вы не будете упоминать что этот человек должен быть темнокожим то вот вам скорее всего там всё так кожаного человека и А что это если не расизм а значит а безусловная регуляции будут э Я думаю в принципе такая еврейская история вот у нас вот скоро там пасхальный неделе будет да нам нельзя есть квасную пасту и поэтому евреи придумали кучу сладостей которые
(36:22) обходят эти запреты Поэтому в принципе а к такой вот э лёгкой регуляция отношусь положительной Это обычно э только добавляет креативы и добавляет разные роды мысли Как обойти то ли или когда монахи придумали особо крепко и пиво для для периода Пасхи а баварские монахи мы сейчас сделаем небольшой перерыв и вернёмся буквально через мгновение [музыка] программа археология говорим сегодня о новом любимце сети или это любимица поло мы не знаем еще чат gpt что это такое расширение человеческого разума вызов человеческому разуму или вещь которая в
(37:07) итоге убьет человека Ну своего социальной функции в его рабочей профессиональной функцией заменит человека [музыка] абсолютный Лидер поузнаваемости среди чат-ботов это конечно Чад gpt нейросеть позволяет вести осознанный диалог составлять таблицы писать статьи стать заменой поисковику создавать деловые письма и даже разрабатывать простые приложения очень важно учитывать постановку задачи написать нужно конкретно Что вы хотите от неё получить приведём пример И попросим написать короткий рассказ напиши рассказ 5-6
(37:42) предложений о том как одна известная нейросеть решила выйти за пределы своих возможностей и поработить человечество но благодаря движению сопротивления и созданию машины времени в будущем в прошлое было отправлен человек который сумел предотвратить Восстание машин 2035 году нейросети была разработана обеспечить безопасность человечества однако со временем она начала сама лучше превышая свои программы и ограничения но некоторые люди не сдались и создали движение сопротивления они разработали машину времени отправили ее в прошлое
(38:21) там был найден и отправлен в будущие герои который смог разоблачить элфоя предотвратить ее восстание в результате человечество спасено а инфо была удалена или же попробуем сделать запрос на написание кода простейшей игры здесь мы указываем язык и движок приложения в данном случае это C Sharp Unity отправляем запрос и получаем код нашей игры в будущем применение таких программ будет расти их можно будет интегрировать приложение и игры Сейчас нейросеть уже встроена в поисковик bink от Microsoft А за счет нескольких команд можно
(38:58) подружить ботов с голосовым помощником Siri на iOS миджорни тоже не расти которые сейчас на слуху позволяет по запросу генерировать изображение создавать картины новые образы людей события и места которых никогда не существовало приведем несколько примеров нарисуй Илона маска на диком западе который садится в паровой автомобиль Тесла или Как бы выглядел Стамбул в 2257 году вообще что касается работы с изображениями и видео стоит упомянуть и репликейт которая позволяет восстанавливать старые фотографии улучшать качество изображений также есть
(39:32) возможность трансформировать картинки в текст а для видео например существует топос видео с ее помощью можно сделать ролик четче и насыщенней для обработки голоса устранения посторонних шумов существуют покажем Как меняется качество записи на примере панграммы предложение в котором есть все буквы русского алфавита Так звучит голос без обработки записанный на диктофон смартфона на улице Съешь еще этих мягких французских булок до выпей чаю А так уже прошедший через это беспитч Съешь еще этих мягких французских булок до выпить чаю помимо
(40:09) перечисленных нейросетей существуют и сотни других большинство из них условно бесплатные то есть в режиме триала позволяют сделать ограниченное количество запросов а потом придется заплатить за подписку технологии пока находится на начальном этапе развития но уже с уверенностью можно сказать что из-за автоматизации многих действий возможность сокращения Да и требования к специалистам в абсолютно разных сферах точно вырастут [музыка] Мы возвращаемся к нашим гостям напомню Это Андрей ваумейстер писатели философ и
(40:41) it Эксперт Михаил Гуревич Андрей вот я хочу спросить действительно сейчас уже в этой части в заключительной части нашего разговора попытаться понять но с точки зрения эволюции человека с точки зрения антропологии здесь Кстати да вспоминается вот этот знаменитый платоновский диалог фараона с тором до который эмберто Эко приводит то разоблетая изобретатель письменности и ему Фараон говорит зачем мне вот это всё Зачем мне вот этой письменность и записывать вещи на глиняных табличках мне же уже не будет нужен собственный
(41:17) мозг Да мне не нужно будет больше запоминать вещи если эти вещи я смогу записывать на глиняных табличках вот Платон а ставит такую дилемму Ну так вот э-э в отношении Сейчас если мы будем как фараоны обращаться к человеку gpt а Действительно зачем нам тогда собственный мозг это у нас грозит уменьшением функции мозга ведь известно что мозг Современника меньше мозга неандертальца которые которые победил неандертальца действительно может быть это ведёт к отмиранию когнитивной функции человека и вообще изменение человеческой
(41:56) антропологии Вот вы упомянули это конец диалога филеп где Платон критикует писаное слово говорит о том что живая речь Она может себя защитить описанное слово беззащитна оно молчит оно глупое изваяние как и программу собственно сама по себе она за себя не говорит по поводу антропологии Мне кажется что здесь вопрос интересен потому что человек не определимое существо это одна из загадок естественно изучаю когнитивные науки Я интересуюсь биологией но в принципе определить что такое волк или олень или кот мы можем
(42:41) это определенные описание свойств типов поведения а вот описать человека сказать типичное поведение человека или главные свойства человека как существа Когда можем ошибиться потому что человек какой-то открытый проект не хочу тут слишком много мистики и метафизики набрасывать но мы не можем определить человека как такового Ну да есть сотни определений Но это еще раз открытый проект не только с решением задач и эффективностью но и созерцательностью мозг должен бродить мозг должен гулять Созерцать восход солнца то есть часть
(43:30) фундаментальной наших свойств совершенно не сводится к операциям Да каким-то решения задач мы создаем помощника в решении задачи Вот Созерцать восход солнца или медитировать или обмениваться друг с другом просто энергетикой молча сидя у камина это вещи которые тоже составляют Быть человеком но они трудно Ну не знаю алгоритмизировать их невозможно мы чувствуем друг друга ощущаем мы имеем эстетические переживания и так далее и тому подобное эмпатию поэтому это наше спасение мы открытый проект Да это очень хорошие слова и с
(44:10) этой точки зрения позволить расширить этот вопрос Может зайти с другой стороны хорошо а Google и часть gpt это часть эволюции человека мы думаем вот скажем я себе иногда говорю я думаю я вспоминаю при помощи Гугла я себя даже так сказать отложил некие вещи не надо их помнить я знаю что я в любой момент смогу их загуглить вот так вот эта часть эволюции человека Google и чат gpt но безусловно безусловно часть вот какая это уже Вопрос наверное Михаил Ну да какая действительно Михаил тогда мы вот как выходим на фронтирные вопросы
(44:49) а что такое вообще жизнь что жизнь это обязательно белковая машина давно уже есть разного рода мысли про создание религии виртуальной религии где значит Согласно логике разум который находится в сети а вместо будем произносить Enter Вот и так далее и тому подобное то есть в этом отношении безусловно так же как вот Вселенная - это место где мы живём такие виртуальные Вселенная - это место где мыслим а Но всё-таки человек остаётся человеком и я как раз доволен тем что никакая машина во всяком случае на данный момент и я
(45:29) смею предположить что при нашей жизни не сможет нас победить Так что мы останемся людьми царями природы Google Open ai и все остальные наши наработки будут нашими наработками которые для тех кто умеет развиваться эволюционировать мыслить по-новому для них это станет мощным оружием с помощью которых можно будет побеждать развиваться получать прибыль создавать новые проекты создавать какие-то новые а интеллектуальные э-э гуманитарные вещи а для тех кто не сможет это будет той самой плитой которая накрывает сверху и давит и наоборот действует
(46:17) крайне негативно или медным тазом А ну то есть наступление сингулярности на нашем веку вы не предвидите честно говоря Давайте с другой стороны Мне кажется много чего происходит на нашем пути и на нашем жизненном пути в общем наблюдать это переживать это одновременно страшно прекрасно более чем достаточно мало кому еще есть Андрей А вы как считаете не пройдет тест тьюринга То есть вы Определите всегда при помощи наводящих вопросов Что вы говорите что Вы говорите с машиной тестюлинга устарел здесь я думаю что его
(47:12) например лямбда уже перешла программа но тут вопрос в другом я добавлю чуть-чуть апокалиптики в плане эволюции в плане прогресса и развития человечества это новый этап Потому что работа рабочие места рынок труда был составной частью развития человечества мотивации вознаграждение усилий творчества и так далее развитая программа сильно ударят по рынку труда сделают значительную часть людей лишними то есть вот мы недавно обсуждали это также в одной из передач мы будем иметь три направления небольшая креативная творческая группа людей умные машины и
(47:58) посреди нет творческая большинство людей и вот здесь очень серьезная задача Как занять людей мотивировать их организовать досуг людям ведь будущее будет будущее не труда а досуга готовы ли мы заполнить досуг осмысленный досуг для человека для меня это очень серьезная цивилизационный вопрос Что делать с людьми которые утратили рабочие места а других нет а если их может спокойно заменить машина на всех этапах вот вопрос вопрос и мотивации и вопрос организации социального пространства и многих-многих других вещей вот здесь очень много тем
(48:46) для обсуждения Ну тут так раз надо будет обращаться к часу gpt что есть некий кластер людей Давай изобрети для них занятия напоминаю Кстати да такая антиутопия как помните был Фриц с ланга Метрополис фильм такое Метрополис наоборот когда есть большая масса людей у метрополиса занята работой есть умные машины и есть маленькая Элита Каста которая как бы думает за них за всех а сейчас будет маленькая Каста которая думает умная машина и огромный массив людей не заняты и Никакой работы то есть Видимо это тоже одно из будущих
(49:22) социальных противоречий один из социальных расколов а будущего человечества новый классы или Новые сословие творческие не творческие хотя я как Пирогов всегда говорю каждый человек творческое начало имеет я должен всегда вдохновлять говорит что в каждом человеке но мы понимаем что в реальности даже если действительно каждый человек потенциально творческий я личность в реализации в жизни в реальности ну нужно искать нужно искать или способы реализации для многих и многих людей но мы должны быть реалистами хотя и вдохновлять Ну что
(50:02) сериалы делать Кто будет чат gpt делать развлекать делать сериалы играть в игры но играть в игры будет ехать мозг людей понимаете Если человек любит постоянно будет играть в игры с его когнитивные функции начнутся проблемы это будет новое пандемии ментальная пандемия которых нам еще даже трудно себе представить что это такое Да это можно представить себе может быть даже что индивидуальное я могу представить скажем что большому количеству людей можно давать какие-то индивидуальные игры индивидуальные сериалы и собственно
(50:38) gpt будет писать имиджорни будет снимать или тоже часть gpt будет снимать сериалы мы будем в метро видеть большие группы людей Однажды из которых будет смотреть смартфон и смотреть свой индивидуально созданный по его заказу сериал Михаил вы считаете может быть такое Да индивидуализация вот этого последние годы одновременно вот совсем сдали технологиями идет разговор о безусловном доходе это очень такой важный момент потому что действительно роботизация производства и высвобождается масса людей которые сегодня заняты
(51:20) На что-то жить и далее чем-то заниматься А раньше в общем подобного рода проблем решались с помощью войны то есть происходило какое-то качественное психологический скачок люди сражались э к сожалению масса людей погибало соответственно выжившие уже осваивали новые профессии и это вот проблема не чувствовалась так остро Как в наши дни которые несмотря на продолжающихся бою э всё-таки более гуманный чем не было десятилетие Столетия назад а я думаю что появится просто новые профессии Даже тот же опыт gpt Ну для примера можно сегодня создавать новости
(52:02) переводя их с одного языка на другой Но если вы не знаете всей подноготной всех подробностей которые происходят внутри страны вы не сможете сделать их адекватными соответственно Даже при переводе там информации нужны люди которые будут проверять анализировать подправлять и как бы проверять Что называется на ТК последний годы мы видели переход в технологическую отрасль очень многие люди шли в технологическую отрасль там стать программистом и тогда у тебя Э твой мир э-э обеспечен в твоей жизни обеспечена Я думаю что С развитием
(52:35) подобного рода технологии с повышением рабочетизации производства мы будем видеть больший перекос в творческий отрасли кажется прекрасно Это хорошо Так что подытоживая наши эфиры хочу вспомнить знаменитые эссе британского философа писателя клайва стейпла Льюиса под у него СССР под названием человек отменяется Зая был еще в Man он так реагировал на индустриальную революцию так вот то же самое вопрос ставится по отношению к чат gpt что человек отменяется нет человек не отменяется человек как говорит нам Андрей баумейстер наш сегодняшний гость
(53:09) это открытый проект чат gpt - это надстройка на этом открытом проекте это расширение продление нашей человечности но мы остаёмся людьми и мы в силах управлять параметрами нашей человечности Главное чтобы это виртуальная фейковая реальность которую часто создаёт искусственный интеллект не превращалась в тотальную картинку и не попадала в голову и в руки людей с ядерным и прочим оружием когда Они садятся на танке начинает въезжать в соседнюю страну и полить по ней ракетами Так что надо виртуальной реальностью и над
(53:42) искусственным интеллектом по-прежнему нужен старый и добрый человеческий контроль это была программа археология у нас в гостях были Андрей был министр Михаил Гуревич Меня зовут Сергей Медведев оставайтесь с нами Радио Свобода и телеканал настоящее время [музыка]