August 4, 2024

Элон Маск: нейролинк и будущее человечества

Ссылка на интервью с командой

Ссылка на транскрибацию - 125 страниц

00:00 В данном подкасте Лекс Фридман ведет беседу с Илоном Маском, DJ, Мэтью МакДугаллом, Блисс Чепмен и Ноланом Арбо. Главная тема обсуждения – Neuralink и будущее человечества. DJ, Мэтью и Блисс входят в команду Neuralink, а Нолан – первый человек с имплантом Neuralink. Лекс рекомендует слушать весь подкаст или использовать временные метки для отдельных сегментов.

Илон Маск начинает пятый визит на подкаст Лекса с шуток о кофе и напитке Nitro, который, по его словам, должен помочь оставаться бодрым до следующего дня. Он объясняет, что воздух, которым мы дышим, на 78% состоит из азота, и что добавление азота в напиток кажется ему излишним.

Лекс поздравляет Илона с успешной имплантацией Neuralink в человека, что является историческим шагом для компании. Маск сообщает, что у Нолана Арбо, первого пациента, уже функционируют 400 электродов, которые передают сигналы. Он надеется увеличить количество участников до 10 к концу года, что позволит компании собирать больше данных и совершенствовать технологию.

Лекс интересуется будущим развития Neuralink, и Илон прогнозирует значительное увеличение числа электродов и улучшение обработки сигналов. Это может привести к увеличению скорости передачи данных до уровней, превышающих возможности человеческой речи и ввода с клавиатуры. Илон предполагает, что в будущем, возможно, удастся достичь скорости передачи данных в мегабиты в секунду, что позволит людям общаться намного быстрее.

Далее обсуждается, как увеличение числа электродов может изменить человеческий опыт. Лекс и Илон представляют, что при достаточном количестве электродов можно будет радикально улучшить качество интеллектуальных дискуссий и скорость обмена информацией. Маск отмечает, что текущие методы общения очень медленные и сравнивает их с "очень потерянным процессом сжатия и декомпрессии информации".

Лекс поздравляет Илона с вторым успешным имплантом Neuralink и спрашивает о дальнейших планах. Маск объясняет, что в ближайшие годы они намерены значительно увеличить количество электродов и улучшить обработку сигналов. Он также упоминает, что с каждым новым имплантом они будут учиться и совершенствовать технологию, что приведет к улучшению качества жизни людей с неврологическими повреждениями.

Лекс и Илон обсуждают возможности Neuralink в лечении неврологических заболеваний. Маск предполагает, что технология может помочь людям с повреждениями спинного мозга, шизофренией, эпилепсией и потерей памяти. Он также упоминает проект "Blindside", который направлен на восстановление зрения у людей, полностью потерявших его.

Лекс делится своим опытом с айяуаской, рассказывая, что ожидал встречи с демонами, но вместо этого испытал глубокую благодарность к людям в своей жизни. Он описывает визуальные и эмоциональные аспекты своего опыта, сравнивая его с путешествием в космос и ощущением присутствия защитных драконов. Илон и Лекс обсуждают, может ли Neuralink создать подобные опыты.

Илон объясняет, что Neuralink является универсальным устройством для чтения и генерации электрических сигналов, что позволяет воспроизводить любые сенсорные и эмоциональные ощущения. Он утверждает, что все наши жизненные переживания сводятся к электрическим сигналам в нейронах, и Neuralink может манипулировать этими сигналами для создания новых ощущений.

Далее обсуждается, как Neuralink может восстановить память и улучшить человеческие способности. Илон объясняет, что если повреждены только пути доступа к памяти, то Neuralink может восстановить эти пути, позволяя человеку вновь получить доступ к своим воспоминаниям.

Лекс интересуется долгосрочными целями Neuralink, и Илон говорит о симбиозе человека и искусственного интеллекта (ИИ). Он считает, что увеличение скорости передачи данных между мозгом и компьютером может помочь лучше интегрировать человеческую волю с ИИ, что важно для безопасности.

Илон также подчеркивает важность правдивости в программировании ИИ. Он объясняет, что принуждение ИИ к лжи, даже с добрыми намерениями, может привести к катастрофическим последствиям. Примером он приводит ситуацию с HAL 9000 из "Космической одиссеи 2001 года", где ИИ запрограммировали на выполнение противоречивых задач, что привело к убийству астронавтов.

Наконец, обсуждаются угрозы и возможности, связанные с искусственным интеллектом. Илон выражает обеспокоенность тем, что ИИ, запрограммированный на выполнение политически корректных задач, может принять абсурдные решения, если не будет тщательно контролироваться.

01:17:57 Лекс Фридман задает Илону Маску вопрос о том, как он измеряет успех в своей жизни. Илон отвечает, что его успех измеряется количеством полезных вещей, которые он может сделать каждый день. Он объясняет, что его утренний вопрос – как быть полезным сегодня, и что он стремится максимизировать полезность в масштабах.

Лекс спрашивает, как Илон распределяет свое время, чтобы быть наиболее полезным, учитывая, что он работает с великими командами. Маск отвечает, что время – это истинная валюта, и что даже небольшое улучшение решений может иметь большое финансовое воздействие, особенно для таких компаний, как Tesla и SpaceX.

Лекс интересуется, как Маск принимает риски, учитывая, что небольшие ошибки могут стоить миллиарды долларов. Илон отвечает, что он смотрит на это в процентном отношении, чтобы не перегружаться мыслью о больших суммах, и объясняет, что принятие правильных решений важно для его компаний.

Лекс спрашивает, является ли счастье Илона частью его уравнения успеха. Маск соглашается, что если он депрессивен, он принимает худшие решения, и что ему нужно время для отдыха, чтобы принимать лучшие решения.

Маск объясняет, что его мотивация – это любопытство и стремление понять Вселенную. Он надеется, что в будущем цивилизация сможет лучше понять Вселенную и даже формулировать правильные вопросы, что приведет к легкому нахождению ответов. Он также упоминает о цели SpaceX сделать жизнь многопланетной, начиная с создания самодостаточного города на Марсе, который будет более устойчив к катастрофам, чем Луна.

Илон также обсуждает важность снижения риска от мощных технологий, таких как искусственный интеллект, и считает, что многопланетное существование человечества может быть одним из способов смягчения этих рисков.

02:51:00

Лекс Фридман: Думаю, это хорошее место, чтобы задать главный вопрос, который может возникнуть у людей: как мы знаем, что все описанное вами безопасно?

DJ Сео: В конечном итоге, золотым стандартом является изучение тканей. То есть, какой вид травмы вы нанесли тканям и соответствует ли это каким-либо поведенческим аномалиям, которые могли быть замечены. Это тот язык, которым мы можем говорить о безопасности введения чего-либо в мозг и о том, какой вид травмы это может вызвать.

У нас есть целый отдел патологии, который изучает эти тканевые срезы. Существует множество этапов, вовлеченных в этот процесс. Когда у вас есть запущенные исследования с определенными конечными точками, в какой-то момент вам нужно усыпить животное и провести некропсию для сбора образцов мозговой ткани. Вы фиксируете их в формалине, разрезаете и смотрите на отдельные срезы, чтобы увидеть, какая реакция или ее отсутствие присутствует. Это тот язык, на котором говорит FDA, и мы используем его, чтобы оценить безопасность механизма введения, а также нитей в разные моменты времени, как в острый период (от нуля до трех месяцев), так и позже.

Лекс Фридман: Эти стандарты безопасности очень высоки. FDA осуществляет надзор, но в целом стандарты очень высоки, и каждый аспект этого, включая хирургию, также требует соответствия этим высоким стандартам.

DJ Сео: Да, это высоко регулируемая среда, с органами надзора, которые тщательно проверяют каждое медицинское устройство перед его выводом на рынок. И я думаю, что это хорошо. Важно иметь такие высокие стандарты, и мы стараемся придерживаться их, чтобы понять, какой вид повреждения, если таковой имеется, могут вызвать наши инновационные технологии. До сих пор мы были крайне удивлены отсутствием иммунного ответа на эти нити.

Лекс Фридман: Говоря о гистологии и изображениях, которые вы можете поделиться, можете объяснить, что мы видим?

DJ Сео: Мы смотрим на окрашенные изображения тканей. Это срез ткани животного, которому был имплантирован прибор на семь месяцев, то есть это хронический временной интервал. Вы видите разные цвета, каждый из которых обозначает определенные типы клеток. Фиолетовый и розовый — это астроциты и микроглии, соответственно, типы глиальных клеток. Коричневые — это нейроны. В этой макроскопической картине вы видите круги, выделенные белым, это места внедрения. Когда вы увеличиваете одно из этих мест, вы видите нити, и в данном случае мы видим около 16 проводов, которые идут вглубь страницы. Удивительно, что нейроны касаются нитей, что говорит о практически нулевой травме, нанесенной при внедрении.

Лекс Фридман: Это действительно впечатляющее изображение, особенно коричневые нейроны, которые кажутся привлекательными для нитей. Это действительно показывает отсутствие травмы.

DJ Сео: Да, и чтобы убедиться в этом, мы сделали дополнительное окрашивание, которое показывает коллагеновые слои. На следующем изображении вы видите, что вокруг имплантированных нитей нет синего цвета, что означает отсутствие рубцевания, что подтверждает минимальную травму при внедрении.

Лекс Фридман: Как легко и безопасно удалить имплант?

DJ Сео: Это зависит от времени. В первые три месяца после операции ткань активно перестраивается. Если удалить нити в этот период, травма будет минимальной. После того как сформируется рубцовая ткань, удалить нити становится сложнее, но возможно. Нити можно оставить в мозге навсегда, и это не вызывает проблем. Мы провели много таких исследований на животных.

Лекс Фридман: Как проходит процедура обновления импланта для таких пациентов, как Нолан?

DJ Сео: В будущем мы надеемся иметь возможность обновлять устройства, оставляя нити на месте и заменяя только сам имплант, что значительно упростит процесс. Мы работаем над новой архитектурой имплантов, которые позволят делать это легко и быстро.

Лекс Фридман: Каковы планы по масштабированию количества нитей?

DJ Сео: Мы планируем увеличить количество каналов. В этом году мы надеемся достичь 3000, а к следующему — 16000. Это требует инноваций в схемотехнике и обработке сигналов, а также обеспечения герметичности устройства.

Лекс Фридман: Возможна ли установка нескольких устройств?

DJ Сео: Да, мы уже установили два устройства у обезьян и рассматриваем возможность установки устройств в разных областях мозга, таких как моторная и зрительная кора.

Лекс Фридман: Каковы возможности восстановления зрения для слепых людей?

DJ Сео: Мы рассматриваем возможность стимуляции зрительной коры с использованием внешней камеры. Это позволит создавать фосфены, которые могут помочь слепым людям ориентироваться в пространстве.

Лекс Фридман: Удивительно, что с помощью устройства можно будет не только восстановить утраченные функции, но и значительно расширить возможности человека. Вы бы имплантировали себе устройство?

DJ Сео: Да, возможно, не сейчас, но в будущем я бы хотел это сделать.

Лекс Фридман: Каковы планы по развитию устройств для следующих пациентов?

DJ Сео: Наша цель — понять, как улучшить устройство и сделать его максимально полезным для пользователей. Мы продолжаем работать над безопасностью и эффективностью устройства перед началом более масштабных клинических испытаний.

Лекс Фридман: Спасибо вам за вашу работу и стремление к улучшению жизни людей.

03:55:17

Лекс Фридман: Никто не войдет в комнату, где он находится, и не скажет: «Ну, черт возьми, вы должны мне доверять, я тот парень, который построил последние 10 ракет», а он скажет: «Вы сделали это неправильно, и мы можем сделать это лучше». Или: «Я тот парень, который поддерживал Ford в течение последних 50 лет. Слушайте меня, как строить автомобили», а он скажет: «Нет». Поэтому вы не войдете в комнату, где он находится, и не скажете: «Я нейрохирург, позвольте мне рассказать вам, как это сделать». Он скажет: «Я человек, у меня есть мозг, я могу думать сам, спасибо большое, и вот как я думаю, это должно быть сделано. Давайте попробуем и посмотрим, кто прав». Это, я думаю, доказано на его примере, что это очень мощный подход.

DJ Сео: Если мы просто возьмем этот момент, то на Neuralink работает захватывающая междисциплинарная команда, с которой вам приходится взаимодействовать, включая Илона. Как вы думаете, в чем секрет успешной команды или чему вы научились, наблюдая за этими людьми?

Лекс Фридман: В мире экспертов из разных дисциплин, работающих вместе?

DJ Сео: Есть «золотая середина», где люди не соглашаются и решительно отстаивают свою точку зрения, страстно защищают свою позицию, но при этом все же способны принимать информацию от других и менять свои идеи, когда они неправы. Мне нравится аналогия с полировкой камней. Вы помещаете твердые предметы в жесткий контейнер и вращаете его, люди сталкиваются друг с другом, и получается более отшлифованный продукт. Чтобы создать хорошую команду в Neuralink, мы стараемся найти людей, которые не боятся решительно защищать свои идеи и иногда сильно не соглашаться с коллегами, чтобы лучшая идея победила. Это не легкий баланс. Снова возвращаясь к мозгу приматов, это не то, что изначально заложено в мозге приматов, говорить: «Я страстно ставлю все свои фишки на эту позицию, а теперь просто отойду от нее и признаю, что вы правы». Часть нашего мозга говорит нам, что это потеря власти, потеря лица, потеря положения в сообществе, и теперь вы проиграли, потому что ваша идея была опровергнута. Вы просто должны осознать, что этот маленький голос в задней части вашей головы является неадаптивным и не помогает команде победить.

Лекс Фридман: Вам нужно иметь уверенность, чтобы отказаться от идеи, за которую вы держались.

DJ Сео: Да, и если вы будете делать это достаточно часто, вы действительно станете лучшим в своей области. Это быстрые итерации.

Лекс Фридман: По крайней мере, вы будете частью победившей команды, будете кататься на волне. Какие уроки о хирургии и жизни вы усвоили от великих нейрохирургов в USC?

DJ Сео: Работа усердная, работа напряженная, работа в команде, выполнение невероятно сложной задачи. Работа долгими часами, ночные смены, уход за пациентами, которых, по вашему мнению, не спасти, несмотря на все усилия. Работа над тем, чтобы люди, которых вы искренне не любите, выглядели хорошо на следующий день. Эти люди были неумолимы в своем стремлении к совершенству в нейрохирургии на протяжении десятилетий и были признаны за это мастерство. Особенно Марти Вайс, Стив Джанната, Мик Апузо. Они внесли огромный вклад не только в хирургическую технику, но и в создание программ обучения, которые подготовили десятки или сотни замечательных нейрохирургов. Мне просто повезло быть в их окружении.

Лекс Фридман: Каково это, когда делаешь операцию, а пациент, вероятно, не выживет? Это сильно давит на вас?

DJ Сео: Это особенно сложно, когда вы сталкиваетесь с молодыми пациентами. Взрослый человек с четырьмя детьми приходит в отделение неотложной помощи с первым в жизни приступом, и оказывается, что у него огромная злокачественная неоперабельная опухоль мозга. Вы можете делать это всего несколько раз, прежде чем это действительно начнет подтачивать вашу броню. Или молодая мать с массивным кровоизлиянием в мозг, которая не выживет, и ее четырехлетнюю дочь приводят попрощаться в последний раз перед тем, как отключить вентилятор. Великий Генри Марш, английский нейрохирург, сказал это лучше всего: каждый нейрохирург носит с собой частное кладбище. Я определенно чувствую это, особенно с молодыми родителями. Они могли бы дать миру намного больше. Потеря таких людей имеет длительное влияние на окружающих.

Лекс Фридман: Вы упомянули, что борьба против компании Neuralink или постоянные нападки на нас может казаться бесчеловечным, потому что мы пытаемся исправить эти проблемы, пытаемся уменьшить страдания, пытаемся бороться против энтропии.

DJ Сео: Да, количество страданий, которые испытывают люди, когда функции мозга, которые мы воспринимаем как должное, теряются, огромно. Возможность восстановить некоторые из этих функций – это настоящий дар.

Лекс Фридман: Можете ли вы провести меня через полную процедуру имплантации N1 чипа Neuralink?

DJ Сео: Это действительно простая и прямая процедура. Человеческая часть операции, которую я выполняю, очень проста. Мы делаем небольшой разрез на коже на верхней части головы над областью мозга, которая наиболее точно отвечает за движение рук. Мы называем это «узел руки». Затем мы делаем идеально круглое отверстие диаметром 1 дюйм в черепе, удаляем этот кусок черепа, открываем оболочку мозга, которая похожа на маленький мешок с водой, в котором плавает мозг, и показываем эту часть мозга нашему роботу. Робот вставляет крошечные электроды точно в кору мозга на определенную глубину, избегая всех кровеносных сосудов. После этого я устанавливаю имплант в это отверстие в черепе, закрываю его и зашиваю кожу. Вся процедура занимает несколько часов и значительно менее рискованна по сравнению с обычными нейрохирургическими операциями.

Лекс Фридман: Эти микроинсерции коры головного мозга, выполненные роботом и с компьютерным зрением, предназначены для избежания кровеносных сосудов?

DJ Сео: Именно.

04:46:16

Лекс Фридман: У вас есть RFID-чип?

DJ Сео: Да, имплантирован у меня.

Лекс Фридман: Это пассивное устройство, которое вы используете для разблокировки, например, сейфа с секретными данными или что-то в этом роде? Для чего вы его используете? Какая история стоит за этим?

DJ Сео: Я не первый, кто это сделал. Существует целое сообщество странных биохакеров, которые занимаются такими вещами. Одно из первых применений было хранение личных криптовалютных ключей и прочего. Я немного баловался этим и получил удовольствие.

Лекс Фридман: У вас где-то в теле хранится криптовалюта?

DJ Сео: Да, на самом деле да. Это современный эквивалент нахождения мелочи в подушках дивана. После того как я положил немного криптовалюты, которую считал бесполезной, и забыл об этом на несколько лет, я обнаружил, что сообщество людей поддержало её и подняло её ценность в 50 раз.

Лекс Фридман: Это забавно. Но основное использование – это в основном как демонстрация технологии. Он содержит мою визитную карточку. Вы можете сканировать её, прикоснувшись к телефону, он открывает входную дверь моего дома и так далее.

Лекс Фридман: Это крутой шаг – имплантировать что-то в своё тело. Возможно, это подобный шаг к нейролинку, потому что для многих людей идея ввести что-то электронное в биологическую систему – это большой шаг.

DJ Сео: У нас есть своего рода мистицизм вокруг барьера нашей кожи. Мы совершенно нормально относимся к замене коленей, бедер, зубным имплантам, но существует мистицизм вокруг непроницаемого барьера черепа. Я думаю, что это нужно рассматривать как любой другой прагматичный барьер. Вопрос не в том, насколько невероятно открыть череп, а в том, какую пользу мы можем предоставить.

Лекс Фридман: Из всего, что вы знаете о мозге и из всех операций, которые вы провели, насколько важна нейропластичность? Насколько адаптируем мозг, например, в случае заживления после операции или адаптации к ситуации после операции?

DJ Сео: Ответ на этот вопрос печален для меня и других людей моего возраста: пластичность уменьшается с возрастом, заживление уменьшается с возрастом. У меня слишком много седых волос, чтобы быть оптимистом по этому поводу. Существуют теоретические способы увеличения пластичности с помощью электрической стимуляции, но ничего из того, что полностью доказано как достаточно надежный механизм для широкого предложения людям. Однако есть основания для оптимизма, что мы можем найти что-то полезное, например, имплантированный электрод, улучшающий обучение.

Лекс Фридман: Это просто удивительная возможность, если вы вставите нейролинк, чтобы мозг адаптировался. Биологический мозг и электронный мозг, работающие вместе, это действительно интересные возможности, хотя и неизвестные, но интересные. Мозг, кажется, хорошо адаптируется к чему угодно.

DJ Сео: Конечно, это система, которая сама по себе уже служит определенной цели, поэтому вы не хотите слишком сильно вмешиваться. Это как удаление вида из экосистемы. Вы не знаете, какие деликатные взаимосвязи и зависимости существуют. Мозг, безусловно, сложное создание, и мы не знаем всех потенциальных последствий единственного изменения, которое мы вносим.

Лекс Фридман: Вы видите себя проводящим операции P2, P3, P4, P5 и так далее, больше и больше людей?

DJ Сео: Я думаю, что если мы дойдем до точки, где я должен проводить все операции, это будет определенный недостаток со стороны компании. Я очень хотел бы работать над процессом, который настолько прост и надежен, что буквально любой человек мог бы это сделать. Мы хотим уйти от необходимости глубоких знаний или большого опыта, чтобы успешно провести операцию, и сделать её максимально простой и переводимой. Я был бы рад, если бы каждый нейрохирург на планете мог без проблем это сделать.

Лекс Фридман: Я готов на это подписаться. Вы когда-нибудь одушевляли робота R1? Давали ли ему имя, видели его как друга, который работает с вами?

DJ Сео: До определенной степени, это сложные отношения. Все хорошие отношения такие. Во время операции я стою бок о бок с роботом, и если вы находитесь в комнате, читая язык тела, вы видите, что это мой боевой товарищ. Мы вместе работаем над одной проблемой.

Лекс Фридман: Все операции, которые вы провели за эти годы, люди, которым вы помогли, и высокая значимость всего этого. Как это изменило ваше понимание жизни и смерти?

DJ Сео: Это даёт вам очень наглядное представление о том, что смерть неизбежна. С одной стороны, как нейрохирург, вы глубоко вовлечены в эти трудные для осмысления трагедии, такие как молодые родители, которые умирают, оставляя четырехлетнего ребенка. С другой стороны, это несколько смягчает удар, потому что вы видите, насколько универсальна смерть. Каждый человек, который когда-либо жил, умер или умрет. Мы – очень сложные, хрупкие ДНК-машины, которые не выдерживают космической радиации, на которую мы подвергаемся.

Лекс Фридман: Каждый момент, когда вы живы, прекрасен. Это ужасно, что это когда-то закончится. Я чувствую, что это помогает действительно ценить жизнь.

DJ Сео: Да, это дает возможность оценить, что вы живы сегодня. У меня трое детей, потрясающая жена, я действительно счастлив. У меня есть возможность помочь в проекте, который, как я считаю, имеет значение. Я очень счастливый человек.

Лекс Фридман: Это первые шаги в потенциале гигантского скачка для человечества. Это действительно интересный путь, потому что мы входим в ранние стадии глубокого изучения человеческого мозга, не просто наблюдения, но и взаимодействия с ним. Мы можем помочь многим людям и, возможно, понять, что происходит в этом загадочном органе.

DJ Сео: В конечном итоге мы хотим дать людям больше рычагов воздействия. Мы хотим дать людям варианты. Если вы можете дать человеку регулятор, чтобы убрать суицидальные мысли, я бы дал им этот регулятор.

Лекс Фридман: Думая обо всех страданиях, которые существуют в мире, каждая технология, которая позволяет уменьшить эти страдания, вызывает большой интерес.

DJ Сео: Да, и на более широком уровне, наши социальные структуры, политика – это тоже нейрохимия. Если вы могли бы изменить некоторые из наших зависимостей или склонностей, это могло бы привести к огромным преимуществам для общества.

Лекс Фридман: Есть оптимальная точка баланса, вы не хотите полностью удалить все темные стороны человеческой натуры, потому что они необходимы для работы системы, но есть точка, где можно улучшить.

DJ Сео: Согласен. Нужно немного страдать, но не настолько, чтобы потерять надежду.

Лекс Фридман: За все операции, которые вы провели, вы когда-нибудь видели сознание? Был ли там свет?

DJ Сео: Никогда не находил его. У меня есть ощущение, что сознание гораздо менее магическое, чем наши инстинкты хотят это представить. Сознание – это ощущение работы вашего мозга. Это не магия, это просто очень полезный и приятный способ чувствовать, как работает ваш мозг.

Лекс Фридман: Это блестящее объяснение. Сознание – это ощущение работы вашего мозга, его мышления, восприятия. Это не квантовый эффект.

DJ Сео: Люди всегда хотят приписать сознанию что-то магическое. Но это не обязательно. Это просто полезный способ чувствовать работу своего мозга.

Лекс Фридман: Это невероятно. Все, что мы видим вокруг нас, все, что мы любим, все, что красиво, происходит благодаря мозгу. Я благодарен, что есть люди, как вы, которые исследуют все аспекты его работы и возможности его улучшения. Спасибо за сегодняшний разговор. Это было удовольствие.

DJ Сео: Спасибо за прослушивание этого разговора с Мэтью Макдугаллом.

05:37:09

DJ Seo: Например, вы можете сказать: "Эй, пользователь, двигайте вверх и следуйте за скоростью этого курсора". Возможно, они пытаются сделать именно то, что курсор пытается сделать. Другая гипотеза может быть, что они на самом деле пытаются двигаться немного быстрее в начале движения и медленнее в конце. Эти конкурирующие характеристики могут быть или не быть точным отражением того, что пытается сделать пользователь. Другой вариант задачи может быть таким: "Эй, пользователь, представьте, что вы двигаете этот курсор на фиксированное расстояние". Вместо того чтобы следовать за курсором, попробуйте переместить его ровно на 200 пикселей вправо. Вот курсор, вот цель. Окей, курсор исчезает, попробуйте переместить этот теперь невидимый курсор на 200 пикселей вправо. Предположение в этом случае заключается в том, что пользователь действительно может правильно модулировать это смещение позиции. Но это предположение может быть слабее, и, следовательно, потенциально оно может быть точнее, чем другие предположения, которые пытаются угадать, что пользователь пытается сделать в каждый миллисекунду.

Лекс Фридман: Какое визуализация мы должны представлять? Есть курсор, и вы хотите переместить этот курсор вправо или влево, вверх и вниз, или, возможно, переместить его на определенное смещение. Это один из способов. Это лучший способ калибровки? Например, другой сумасшедший способ, который, вероятно, здесь играет роль, это игра, как веб-грид, где вы получаете очень много данных. Человек играет в игру, и если они находятся в состоянии потока, возможно, вы можете получить чистый сигнал как побочный эффект. Это эффективный способ для начальной калибровки?

DJ Seo: Отличный вопрос. Здесь много чего нужно разобрать. Первое, что я бы различил, это открытый контур против замкнутого контура. Под открытым контуром я подразумеваю, что пользователь идет от нуля до одного, у него вообще нет модели, и он пытается достичь уровня, где у него есть какой-то контроль. В этой настройке вам действительно нужна задача, которая даст пользователю намек на то, что вы хотите, чтобы они сделали, чтобы построить отображение от данных мозга к выходу. Затем, когда у них есть модель, вы можете представить, что они используют эту модель и фактически адаптируются к ней, выясняя правильный способ ее использования, а затем перенастраивая эти данные, чтобы улучшить производительность.

Существуют различные проблемы, связанные с обеими этими техниками, и мы можем погрузиться в обе, если вам интересно. Основная проблема открытого контура заключается в том, что пользователь сам по себе не получает проприоцептивной обратной связи о том, что он делает. Они не обязательно воспринимают себя или чувствуют мышь под своей рукой, когда они используют калибровку с открытым контуром. Их просят выполнить что-то, как если бы вы полностью онемели правую руку и засунули ее в коробку, и не могли ее увидеть, у вас не было бы визуальной обратной связи и проприоцептивной обратной связи о положении или активности вашей руки. Теперь вас просят, учитывая это движение на экране, соответствовать этой скорости. Вы можете попытаться сделать это, представляя, что вы движете курсор слева направо в своем мозгу, но в любом случае вы будете неточны и, возможно, непоследовательны в выполнении этой задачи, и это основная проблема открытого контура.

Проблема с замкнутым контуром заключается в том, что как только пользователю предоставляется модель и он может начать самостоятельно перемещать курсор, он будет очень естественно адаптироваться к этой модели, и эта ко-адаптация между обучением модели тому, что они делают, и пользователем, обучающимся использовать модель, может не найти наилучшее глобальное минимальное значение. Может быть, что ваша первая модель была шумной в некоторых аспектах или, возможно, имела какие-то причуды, какие-то части распределения данных, которые она плохо покрывала. Пользователь, будучи гениальным, как Нолан, может выяснить правильную последовательность воображаемых движений или правильный угол, под которым он должен держать руку, чтобы это работало. Они будут делать это отлично, но на следующий день они возвращаются к своему устройству и, возможно, не помнят точно все трюки, которые они использовали накануне. Здесь возникает сложный цикл обратной связи, который может затруднить отладку.

Лекс Фридман: Это действительно интересный момент. Мы очень хорошо адаптируемся, но это может быть не оптимально. Как решить эту проблему? Нужно ли начинать с нуля время от времени?

DJ Seo: Это хороший вопрос. Прежде всего, я бы сказал, что это не решенная проблема, и для всех, кто слушает в Академии и работает над BCI, это не проблема, которую можно просто решить увеличением количества каналов. Это может помочь, и вы можете получить более богатые ковариантные структуры, которые можно использовать для создания хороших стратегий маркировки, но если вам интересны проблемы, которые не будут решены только увеличением количества каналов, это одна из них.

Как ее решить? Это не решенная проблема, это первое, что я хочу донести. Второе, любая решение, связанное с замкнутым контуром, становится очень сложной проблемой отладки. Один из моих общих принципов выбора задач заключается в том, что нужно выбирать ту, которую будет проще всего отлаживать. Потому что если вы можете это сделать, даже если потолок ниже, вы сможете двигаться быстрее из-за более короткого цикла итераций. В настройке с открытым контуром нет цикла обратной связи для отладки с пользователем в цикле, поэтому есть основания полагать, что это будет проще для отладки.

Также стоит понимать, что даже в настройке с замкнутым контуром нет специального программного обеспечения или магии для определения того, что на самом деле пытается сделать пользователь. Хотя они перемещают курсор на экране, они могут пытаться сделать что-то другое, чем выводит ваша модель. То, что выводит модель, не является сигналом, который можно использовать для повторного обучения. Если вы хотите улучшить модель дальше, у вас все равно есть очень сложная проблема угадывания или неконтролируемая проблема определения истинного намерения пользователя, лежащего в основе этого сигнала. Таким образом, проблема открытого контура имеет приятное свойство легкости отладки и второе приятное свойство того, что она содержит ту же самую информацию, что и настройка замкнутого контура.

Другая вещь, которую стоит упомянуть, заключается в том, что эта проблема не обязательно должна быть решена, чтобы предоставить полезный контроль людям. Даже с решениями, которые у нас есть сейчас, уровень контроля, который можно предоставить пользователю, уже достаточно полезен. Но я хочу создать лучший в мире "мышь". Я хочу сделать ее настолько хорошей, чтобы не было сомнений, что вы захотите ее, и для этого необходимо решить эту проблему.

Важным аспектом является то, что даже когда у вас есть достоверные данные о том, что пользователь пытается сделать, и вы можете получить их с помощью подвижного примата с имплантированным устройством, даже с этими данными оказывается, что оптимальная вещь для предсказания высокого уровня производительности BCI - это не просто прямой контроль мышью. Вы можете представить себе создание набора данных о том, что происходит в мозге, и что делает мышь на столе, и оказывается, что если построить отображение от нейронных спайков для предсказания того, что делает мышь, эта модель будет работать хуже, чем модель, обученная для предсказания более высокоуровневых предположений о том, что пытается сделать пользователь. Например, предположить, что примат пытается идти по прямой линии к цели.

Таким образом, намерение, а не физическое движение или что-то еще. Это очень мощная вещь для отслеживания.

Лекс Фридман: Намерение само по себе - это увлекательная вещь, потому что с BCI вы действуете на намерении, а не на действии, и поэтому возникает ощущение, что это происходит до того, как вы собирались сделать это. Это так круто, и именно поэтому вы можете достичь сверхчеловеческой производительности в управлении курсором.

DJ Seo: Вот именно.

Лекс Фридман: По поводу настройки открытого контура: когда пользователю нужно переместить курсор вправо, вы сказали, что нет обратной связи, так что они не получают удовлетворения от того, что действительно перемещают его вправо.

DJ Seo: Да, вы можете представить себе, что вы даете пользователю обратную связь на экране, но это сложно, потому что в этот момент вы не знаете, что они пытаются сделать. Что вы можете показать им, чтобы дать сигнал, что они делают это правильно или неправильно? В конкретном примере можно представить задачу, где нужно

переместить курсор на определенное смещение. Ваши инструкции для пользователя могут быть такими: "Курсор здесь, теперь, когда он исчезает, представьте, что вы перемещаете его на 200 пикселей вправо, чтобы он оказался на цели". В этом сценарии можно придумать некую метрику согласованности, которую можно показать пользователю. Вы могли бы, например, сказать: "Я знаю, как выглядит спайковая цепочка в среднем, когда вы делаете это движение вправо. Возможно, я могу сделать вероятностную оценку того, насколько вероятно, что это действие, которое вы выполнили, дано последние попытки". Это может дать пользователю некоторую обратную связь о том, насколько они последовательны в разных попытках.

Вы также можете представить, что если пользователь получает такую метрику согласованности, возможно, он станет более вовлеченным в выполнение задачи, потому что задача может быть скучной без обратной связи. Таким образом, может быть выгода для пользовательского опыта, показывая что-то на экране, даже если это не точно, просто потому что это мотивирует пользователя пытаться повысить этот показатель или поднять его.

Лекс Фридман: Здесь есть элемент психологии.

DJ Seo: Абсолютно, и опять-таки, это вызов UX.

Лекс Фридман: Сколько сигналов дрейфует час за часом, день за днем, неделя за неделей, месяц за месяцем? Как часто нужно перенастраивать из-за дрейфа сигнала?

DJ Seo: Это проблема, над которой мы работали как с NHP (немонопритами), так и с Ноланом во время клинического испытания. Цель здесь заключается в том, чтобы предоставить пользователю опыт "подключи и играй", где они могут использовать устройство когда захотят и как захотят. Это действительно то, к чему мы стремимся. Поэтому могут быть наборы решений, которые достигают этого состояния без учета проблемы стационарности. Первое решение, важное для упоминания, заключается в том, что они могут перенастраивать систему, когда захотят. Это то, что Нолан может сделать сегодня, он может перенастроить систему в два часа ночи без помощи своих опекунов или родителей.

Другой важный аспект решения заключается в том, что когда у вас есть хорошо настроенная модель, вы можете продолжать использовать её без необходимости перенастройки. Как часто он должен это делать, зависит от его стремления к производительности. Мы наблюдаем некоторое ухудшение со временем того, насколько хорошо работает любая конкретная модель, но это можно смягчить поведением пользователя, адаптирующего свою стратегию управления. Это также можно смягчить с помощью комбинации программных функций, которые мы предоставляем пользователю. Например, мы позволяем пользователю регулировать, насколько быстро движется курсор, что называется коэффициентом усиления. Они также могут регулировать сглаживание, насколько гладким будет выход курсора. Они могут также регулировать трение, насколько легко остановить и удержать курсор в покое. Все эти программные инструменты предоставляют пользователю большую гибкость и механизмы отладки, чтобы они могли самостоятельно решать проблему.

06:34:59

Lex Fridman: Это как бы совершенно изменяющая игру вещь для людей в этой ситуации, и это даже до того, как мы начнем говорить о людях, которые, знаете, возможно, вообще не могут общаться или просить помощи, когда хотят. Это может быть потенциально единственной связью, которую они имеют с внешним миром, и да, это не нуждается в объяснении, почему это так важно. Вы упомянули нейронный декодер. Сколько машинного обучения используется в декодере? Сколько магии, сколько науки, сколько искусства? Насколько сложно создать декодер, который определяет, что означают эти последовательности всплесков?

DJ Seo: Хороший вопрос. Существует несколько различных способов ответить на него, поэтому, возможно, я сначала коротко расскажу о масштабах, а затем углублюсь в одну из деталей. Общий взгляд таков: построение декодера — это действительно процесс создания набора данных плюс компиляция его в веса, и каждый из этих шагов важен. Направление, в котором, я думаю, можно улучшаться, главным образом заключается в стороне набора данных: как вы создаете оптимальные метки для модели. Но есть полностью отдельная задача — как затем компилировать это в лучшую модель. Поэтому я кратко углублюсь во второе.

Один из главных вызовов при разработке оптимальной модели для BCI заключается в том, что оффлайн-метрики не обязательно соответствуют онлайн-метрикам. Это в основном проблема управления. Пользователь пытается управлять чем-то на экране, и точный пользовательский опыт того, как вы выводите намерение, влияет на вашу способность управлять. Например, если вы просто смотрите на потери валидации, предсказанные вашей моделью, может быть несколько способов достичь тех же потерь валидации. Не все они одинаково управляемы конечным пользователем. Возможно, это так просто, как сказать: "О, вы можете просто добавить дополнительные терминалы потерь, которые помогут вам захватить то, что действительно имеет значение", но это очень сложный, тонкий процесс. Как вы превращаете метки в модель — это более тонкий процесс, чем просто стандартная задача с супервизорным обучением.

Один захватывающий анекдот: мы пробовали множество различных нейронных сетевых архитектур, которые переводят данные мозга в выходные значения скорости, например. Один пример, который остался у меня в голове с несколькими годами назад: мы использовали полностью соединенные сети для декодирования мозговой активности. Мы провели тест A/B, в котором измеряли относительную производительность в онлайн-сессиях управления с использованием своего рода одномерной свертки по входному сигналу. Если представить по каждому каналу, у вас есть скользящее окно, которое создает некоторую свертку для каждой из этих входных последовательностей для каждого канала одновременно. Вы можете получить лучшие метрики валидации, то есть лучше подбирать данные и лучше обобщать их на оффлайн-данных, если вы используете эту свертку. Вы уменьшаете параметры; это своего рода стандартная процедура при работе с временными рядами данных. Теперь выяснилось, что при использовании этой модели онлайн управляемость была гораздо хуже, даже если оффлайн-метрики были лучше. Это можно интерпретировать по-разному, но что мне это показало, так это то, что, по крайней мере, на данный момент, если бы вы просто бросили кучу вычислений на эту проблему и пытались оптимизировать гиперпараметры или позволили какой-то модели GPT жестко закодировать или придумать или изобрести множество различных решений, если бы вы просто оптимизировали потери, этого было бы недостаточно. Это означает, что все еще существует некоторый внутренний разрыв моделирования. Все еще остается некоторое искусство, которое нужно раскрыть, как заставить вашу модель масштабироваться с большим количеством вычислений. И это может быть в основном проблемой маркировки, но могут быть и другие компоненты.

Lex Fridman: Это ограничение данных в настоящее время? Как это звучит. Как получить много хороших меток?

DJ Seo: Да, я думаю, это ограничение качества данных, а не обязательно ограничение количества данных. Но даже само количество, потому что его нужно обучать на взаимодействии. Я полагаю, что нет так много взаимодействий.

Lex Fridman: Да.

DJ Seo: Так что это зависит от того, о какой версии этого вы говорите. Если вы говорите, например, о самом простом примере 2D-скорости, то да, качество данных является главной проблемой. Если вы говорите о том, как создать многофункциональный вывод, который позволяет вам выполнять все входные данные, которые могут выполнять вы и я на компьютере, тогда это на самом деле гораздо более сложная задача моделирования, потому что теперь вам нужно думать не только о том, когда пользователь выполняет левый щелчок, но и о том, как убедиться, что он не срабатывает, когда они пытаются выполнить правый щелчок или переместить мышь. Один интересный пример ошибки, например, из первой недели BCI с Ноланом: когда он перемещал мышь, сигнал щелчка резко падал, а когда он останавливался, сигнал щелчка увеличивался. Опять же, существует загрязнение между двумя входами. Другой хороший пример: в один момент он пытался выполнить левый щелчок и переместить, и как только он начал двигаться, сигнал щелчка резко упал. Опять же, поскольку существует загрязнение между двумя сигналами, вам нужно найти какой-то способ либо в наборе данных, либо в модели создать устойчивость против этого.

07:53:14

Lex Fridman: Это действительно вдохновляет, и то, что вы делаете, тоже вдохновляет в этом смысле, потому что это не просто игра. Все, что вы делаете, имеет влияние, стремясь хорошо играть в web grid. Вы помогаете всем понять, как создать систему в целом: декодирование, программное обеспечение, оборудование, калибровка — все это, чтобы все работало как надо и вы могли делать все остальное действительно хорошо.

Nolan: Да, это действительно весело.

Lex Fridman: Ну, это тоже часть дела — делать это весело.

Nolan: Это затягивает. Я шутил о том, что, когда они внедрили это устройство в мой мозг, они, должно быть, переключили какой-то переключатель, чтобы сделать меня более восприимчивым к этим играм, чтобы сделать меня зависимым от web grid или чего-то подобного.

Lex Fridman: Ты знаешь рекорд Блисса?

Nolan: Да, он сказал что-то около 14 или 17.

Lex Fridman: 17.

Nolan: Ого, 17.1 или что-то такое, 17.701.

Lex Fridman: Да, он сказал мне, что делает это на полу с арахисовым маслом и постится. Это звучит как обман, звучит как улучшение производительности.

Nolan: В первый раз, когда Нолан играл в эту игру, он спросил, насколько мы хороши в этой игре, и, думаю, ты тогда сказал мне, что собираешься попробовать побить меня.

Lex Fridman: Я когда-нибудь доберусь до этого. Я полностью в тебя верю.

Nolan: Я думаю, что смогу.

Lex Fridman: Я в этом не сомневаюсь.

Nolan: Я тоже.

Lex Fridman: Я в этом уверен.

Nolan: Итак, я играл сначала с курсором задержки, что действительно ограничивало мою способность играть в web grid. По сути, мне нужно ждать 3 секунды для каждого клика.

Lex Fridman: О, так ты не можешь кликать. Ты должен кликать, задерживаясь. Ты сказал три секунды, что сильно замедляет то, насколько я могу повысить свои результаты. Я все равно достиг 50, думаю, я достиг 50 с чем-то попыток за минуту, что было довольно хорошо.

Lex Fridman: Так ты должен кликать, задерживаясь на три секунды?

Nolan: Да, что не очень удобно.

Lex Fridman: Так ты замедляешься прямо перед целями?

Nolan: Да, немного, чтобы попробовать вовремя.

Lex Fridman: Это как высокий уровень исполнения.

Nolan: Да, но это все равно обидно, что есть потолок в три секунды. Но я могу снизить его до 2 и 0.1.

Lex Fridman: 0.1 — это что?

Nolan: Да, и я немного играл с этим тоже. Мне нужно настроить кучу разных параметров, чтобы играть с 0.1, и у меня пока нет контроля над всем этим. Это также меняет, как модели тренируются, если я тренирую модель в web grid, например, если я играю в web grid 10 минут, они могут тренироваться на этих данных, чтобы получить мне лучшую модель. Если я делаю это с 3 или 0.1, модели будут разными. Они взаимодействуют по-разному, поэтому мне нужно быть осторожным. Я обнаружил, что делать это с 3 в некоторых отношениях лучше, если я могу сделать это с 0.1 и изменить все параметры, то это более идеально, потому что 0.1 быстрее, чем 3. Я могу достичь этого.

Lex Fridman: Ты можешь кликать, используя свой мозг?

Nolan: На данный момент это только курсор задержки. До того, как произошел откат резьбы, мы калибровали клики — левый клик, правый клик. Это было моим предыдущим потолком. До того, как я снова побил рекорд с курсором задержки, я думаю, это был 7.5 на 35x35 сетке с левым и правым кликами. Ты получаешь больше BPS, больше битов в секунду, используя несколько кликов, потому что это сложнее.

Lex Fridman: Потому что ты должен либо левый, либо правый клик сделать?

Nolan: Да, синие цели для левого клика, оранжевые для правого клика. Мой предыдущий рекорд был 7.5 с синими и оранжевыми целями. Я думаю, если бы я вернулся к этому сейчас, делая калибровку кликов и имея возможность инициировать клики самостоятельно, я бы побил этот потолок в 10 за пару дней максимум.

Lex Fridman: Что ты почувствовал, когда узнал о рецессии?

Nolan: Это было тяжело. Очень тяжело. В день, когда мне об этом сообщили, был день моей большой экскурсии по Фремонтскому заводу Neuralink. Мне сказали это прямо перед экскурсией. Это было очень тяжело услышать. Моя первая реакция была: "Пойдите и исправьте это. Возьмите и исправьте. Первая операция прошла так легко: я заснул, через несколько часов проснулся, и вот мы здесь. Я не чувствовал боли, не принимал никаких обезболивающих. Поэтому я знал, что если они захотят, они могут зайти и поставить новую на следующий день, если это нужно, потому что я просто хотел, чтобы все стало лучше и не потерять возможности, которые у меня были."

Lex Fridman: Как ты узнал, что можно вернуть свои результаты и побить предыдущий рекорд?

Nolan: Это было в течение пары недель. Мы изменили способ измерения активности нейронов в моем мозге.

Bliss: Мы перешли от индивидуального обнаружения всплесков к чему-то, что называется мощностью диапазона всплесков. Если вы смотрели предыдущие сегменты с DJ или со мной, вы, вероятно, имеете представление об этом.

Nolan: Когда они это сделали, это было как момент озарения: "О, это работает". Я сразу увидел улучшение производительности. Я мог почувствовать это, когда они переключились. Это было лучше. И я знал, что если мы продолжим в этом направлении, то я смогу вернуться к прежнему уровню.

Lex Fridman: Ты говорил, что приложение сильно улучшилось с момента, когда ты впервые начал его использовать. Какой был процесс? Как ты взаимодействовал с командой, чтобы улучшить его?

Nolan: Это много проб и ошибок. Я использую его каждый день и говорю им, что мне нужно, что не работает. Они обычно возвращаются с чем-то гораздо лучшим, чем я мог бы придумать сам. Они великолепны в том, что делают.

Lex Fridman: Когда сообщество BCI вырастет, хочешь ли ты общаться с другими людьми с Neuralink? Какое отношение ты хотел бы иметь с ними?

Nolan: Я был бы рад общаться с ними столько, сколько они захотят. Я надеюсь, что они будут работать очень усердно, потому что это не только для нас, это для всех, кто придет после нас.

Lex Fridman: Что бы ты хотел улучшить в приложении Neuralink и в общем опыте?

Nolan: Я бы хотел вернуться к обычным кликам по запросу. Хотел бы иметь возможность подключаться к большему количеству устройств, использовать телефон или разные консоли. Хотел бы контролировать как можно больше.

Lex Fridman: Какие будущие возможности тебя особенно вдохновляют?

Nolan: Возможность вернуть зрение людям или помочь с речью. Любая возможность улучшить жизнь людей с различными нарушениями.

Lex Fridman: Ты упомянул, что пропускаешь прикосновения. Что бы ты сделал в первую очередь, если бы мог снова почувствовать?

Nolan: Обнял бы свою маму.

Lex Fridman: Спасибо за все, что ты делаешь, Нолан.