Сэм Альтман — Оппенгеймер нашего времени
Перевод сделан с помощью бота @GPT4Telegrambot и адаптирован редакцией @hiaimedia Источник https://nymag.com/intelligencer/article/sam-altman-artificial-intelligence-openai-profile.html Эта статья была опубликована в New York Magazine 25 сентября 2023 года.
Этой весной Сэм Альтман, 38-летний генеральный директор OpenAI, встретился с Джеком Корнфилдом, любимым буддийским монахом Кремниевой долины. Это произошло на конференции Wisdom 2.0 в Культурном центре Yerba Buena в Сан-Франциско. Форум был посвящен объединению мудрости и великих технологий нашего времени. Оба мужчины сидели в огромных белых мягких креслах на фоне темной мандалы.
"Что привело вас сюда?" — спросил ведущий.
"Слушайте, меня определенно интересует ваша тема: осознанность и искусственный интеллект", — ответил Альтман. "Но, встреча с Джеком стала одной из главных радостей моей жизни. Я готов провести время с Джеком, обсуждая любую тему".
Цель встречи стала ясна, когда 78-летний Корнфилд, чьи книги продаются тиражом более миллиона экземпляров, сказал вступительное слово.
Насколько мы можем доверять Альтману, учитывая, что этот относительно молодой человек в угольно-черных ботинках Chelsea и серой вафельной хенли контролирует то, как искусственный интеллект (ИИ) войдет в наш мир?
"На мой взгляд, Сэм ... он действительно лидер-служитель", — сказал Корнфилд, описывая моральные качества Альтмана. Они знакомы уже несколько лет и медитировали вместе: "у Сэма чистое сердце". Они исследовали вопрос: как Альтман может "внедрять ценности бодхисаттвы (прим. — путь Будды) — заботиться о всех существах? Как можно запрограммировать сострадание и заботу на глубочайшем уровне?"
В течение всей речи Корнфилда Альтман сидел со сдвинутыми ногами, руки сложены на коленях, в выразительной позе, пытаясь продемонстрировать терпеливость (хотя было очевидно, что это не его сильное качество).
Про ИИ революцию и личные качества лидера
(прим. — здесь и далее подзаголовки добавлены редакцией "Hi, AI!")
Во время дискуссии Альтман раскрыл свои основные тезисы. Он знает, что люди боятся ИИ и считает, что нам действительно стоит опасаться. Поэтому он чувствует моральную ответственность выступать и отвечать на вопросы. "Было бы крайне неразумно не делать этого", — сказал он. "Нам нужно работать вместе, чтобы решить, что искусственный интеллект должен и не должен делать".
По собственной оценке Альтмана, которую можно проследить в его многочисленных блогах, подкастах и видеозаписях, мы можем доверять ему как лидеру в области ИИ, но не слепо. Он понимает себя как достаточно умного, но не гениального "технологического брата" с характером Икара и рядом необычных качеств. Во-первых, у него "абсолютный уровень уверенности в себе". Во-вторых, он обладает пророческим видением "технологических и социальных изменений в долгосрочной перспективе". В-третьих, будучи евреем, он "оптимистичен, но при этом готовится к худшему". Наконец, он отлично оценивает риски, при этом не зацикливается на мнении окружающих.
С другой стороны, "мог бы быть кто-то, кому бы эта роль нравилась гораздо больше", — признался он в подкасте Лекса Фридмана в марте. "Мог бы быть кто-то намного харизматичнее". Альтман осознает, что он "довольно оторван от реалий жизни большинства людей". Иногда он не понимает общественных настроений. Например, как многие в IT-сфере, Альтман использует фразу "средний человек", имея в виду, что "для меня, AGI (общий искусственный интеллект) — это как бы средний человек, которого можно было бы нанять на работу".
Модератор поинтересовался у Альтмана, как он планирует прививать ценности своему ИИ.
Одна из идей, сказал Альтман, — собрать "как можно больше людей" и прийти к глобальному консенсусу. То есть: вместе решить, "какие системы ценностей включить, какие границы система никогда не должна пересекать".
"Еще одно, что я бы предложил — это попросить Джека (Корнфилда) написать десять страниц о том, какими должны быть общие ценности, и как система должна им следовать. Это было бы здорово".
Альтман не уверен, будет ли революция, которую он возглавляет, в полном смысле истории считаться технологической или общественной. Он верит, что она будет "больше, чем стандартная технологическая революция". Сама революция неизбежна; он уверен в этом. По крайней мере, ИИ изменит политику (фейковые новости уже являются большой проблемой на президентских выборах 2024 года), трудовые отношения (ИИ стал центром забастовки сценаристов Голливуда), гражданские права, системы слежения, экономику, армию и образование. То, как Альтман будет использовать полученную власть в ходе этой революции, — это наша общая проблема.
Тем не менее, иногда сложно понять, кто же на самом деле Альтман, насколько мы можем ему доверять, и в какой степени он принимает во внимание чужие опасения, даже когда он стоит на сцене с намерением их развеять. Альтман сказал, что постарается замедлить революцию насколько это возможно. Тем не менее, он сказал собравшимся, что верит, что все будет в порядке. Или, вероятно, будет в порядке. Мы — маленькое слово с королевскими нотками, которое играет большую роль в его риторике — должны просто "решить, чего мы хотим, решить, что мы будем делать и принять тот факт, что будущее будет очень отличаться и, вероятно, будет заметно лучше".
Зал встретил эти высказывания нервным смехом.
Затем он развел руками и пожал плечами. "Я могу соврать вам и сказать: "О, мы действительно можем остановить это". Но я думаю, что это..."
Альтман не закончил свою мысль, и мы продолжили разговор в конце августа в офисе OpenAI на Брайант-стрит в Сан-Франциско. За окном, на улице, проходила неокапиталистическая гаражная распродажа: беспилотные автомобили, собаки, греющиеся на солнце рядом с палатками на тротуаре, кафе, где подают латте за $6. Внутри, OpenAI представляет собой офис технологической компании без изысков: пожалуйста, возьмите себе бутылку "Пеллегрино" из мини-холодильника или стикер с нашим логотипом.
При личном общении Альтман оказался более обаятельным, искренним, спокойным и расслабленным — более естественным, чем можно было ожидать. Он вызывает симпатию. В его волосах седые пряди. На нем та же вафельная рубашка, которая быстро становится его фирменным знаком. Я был 10-миллиардным журналистом, с которым он говорил этим летом. Когда мы сели в звукоизолированной комнате, я извинился, что заставил его дать еще одно интервью. Он улыбнулся и сказал: "Очень приятно вас видеть".
"После беседы с Корнфилдом (прим. — это буддийский монах, если вы уже забыли) кто-то сказал мне: "Знаете, я пришел сильно волнуясь о том, что OpenAI будет принимать все решения о ценностях и будущем искусственного интеллекта, а вы убедили меня, что вы не будете принимать эти решения". Я ответил: "Отлично". А он мне: "Нет, теперь я еще больше волнуюсь, что вы позволите миру принимать эти решения, а я этого не хочу".
Альтман осознает абсурдность того, что ему приходится отвечать за то, какими ценностями будет наделен ИИ. "Если бы я не был внутри этого, я бы сказал: 'Почему эти придурки решают, что со мной будет?'" — сказал он в 2016 году журналисту The New Yorker. Семь лет и много тренингов по работе со СМИ спустя он стал более сдержанным. Новый имидж "хорошего парня" трудно сочетается со стремлением Альтмана к власти, которое является одной из наиболее известных его черт. Один из близких друзей описал его как "самого амбициозного человека, которого я знаю, и который все еще в здравом уме, а я знаю 20 тысяч человек в Кремниевой долине".
Тем не менее, Альтман весьма скромно объясняет свой успех: "Я — еврей со Среднего Запада, у которого было не самое простое детство, мягко говоря. И я руковожу одним из нескольких десятков наиболее важных технологических проектов в мире. Я этого и представить не мог".
Детство, отрочество, юность
Альтман вырос старшим из четверых детей в пригороде Сент-Луиса: трое мальчиков, Сэм, Макс и Джек, каждый старше предыдущего на два года, затем девочка, Энни, которая младше Сэма на девять лет. Если вы не росли в еврейской семье среднего класса на Среднем Западе, трудно представить, какую уверенность в себе такая семья может внушить своему сыну. "Одно из лучших, что сделали для меня мои родители, — это постоянное (несколько раз в день, думаю) утверждение их любви и веры в то, что я могу делать что угодно", — говорит Джек Альтман, брат Сэма. "Запас прочности и уверенности, который от этого образуется, фантастический, потрясающе мощный. Это словно иметь суперспособность".
Обычно рассказывают, что Сэм был юным гением — "восходящей звездой в мире технических вундеркиндов", как писала газета St. Louis Post-Dispatch. В 3 года он начал чинить семейный видеомагнитофон. В 1993 году, на свое 8-летие, родители Альтмана — дерматолог Конни Гибстайн и агент по недвижимости Джерри Альтман — подарили ему Mac LC II. Альтман описывает этот подарок как “важнейший момент, который разделил жизнь на до и после".
Семья Альтманов ужинала вместе каждый вечер. За столом они играли в игру "квадратный корень": кто-то называл большое число; мальчики отгадывали корень числа; Энни проверяла на калькуляторе, кто был ближе всего. Семья также играла в настольный теннис, бильярд, настольные игры, видеоигры и шарады, и все всегда знали, кто выиграет. Для Сэма было важно, чтобы это был он: "Я должен выиграть". Мальчики также играли в водное поло. "Сэм бы не согласился, но я бы сказал, что я был лучше", — рассказывает Джек. "То есть, намного лучше".
Сэм является открытым геем, и рассказал об этом еще в старшей школе. Это удивило даже его мать. В подкасте 2020 года Альтман рассказывал, что его частная средняя школа была не тем местом, где можно было бы открыто сказать, что ты гей, и это бы нормально приняли. В возрасте 17 лет школа пригласила спикера на Национальный день каминг-аута. Некоторые студенты высказывали возражения, в основном по религиозным мотивам, но также и просто из-за предубеждений против геев. Альтман решил произнести речь перед всей школой. Он почти не спал всю ночь перед выступлением. Закончил он свое выступление словам: "Либо у вас есть толерантность к открытому обществу, либо ее нет, и вы не можете выбирать".
В 2003 году, когда Кремниевая долина начала активно восстанавливаться после краха доткомов, Альтман поступил в Стэнфорд. В том же году Рид Хоффман основал LinkedIn. В 2004 году Марк Цукерберг основал Facebook. В этот период старший сын еврейской семьи из пригорода не становился инвестиционным банкиром или врачом. Он запускал стартап. На втором курсе Альтман и его парень, Ник Сиво, начали работать над Loopt, программой геотрекинга для поиска друзей. Пол Грэм и его жена Джессика Ливингстон только что создали Летнюю программу для предпринимателей в рамках своей венчурной компании Y Combinator. Альтман подал заявку. Он получил инвестиции в размере $6000 и возможность провести несколько месяцев в Кембридже (штат Массачусетс), в компании единомышленников-технарей. Альтман так усердно работал тем летом, что заработал цингу.
"О, еще один умный молодой человек!", — сказал Хоффман, который до января был в совете директоров OpenAI, вспоминая свои первые впечатления об Альтмане. Этого оказалось достаточно, чтобы привлечь $5 миллионов от Sequoia Capital. Но Loopt так и не стал популярным среди пользователей. В 2012 году Альтман продал компанию Green Dot за $43,4 миллиона. Альтман не считает это успехом.
"Неудача всегда неприятна, но неудача, когда ты пытаешься что-то доказать, вдвойне неприятна", — сказал мне Альтман. Он ушел "довольно несчастным", но с $5 миллионами, которые он использовал, вместе с деньгами от Питера Тиля, чтобы запустить свой собственный венчурный фонд Hydrazine Capital. Он также взял год отпуска, прочитал кучу книг, путешествовал, играл в видеоигры, и решил пойти в ашрам на какое-то время, что изменило его жизнь. "Я все еще испытываю тревогу и стресс по многим причинам, но восприятие изменилось: я чувствую себя расслабленным, счастливым и спокойным".
Работа в Y Combinator
В 2014 году Грэм пригласил Альтмана стать президентом Y Combinator (YC), который к тому времени помог запустить Airbnb и Stripe. Грэм описывал Альтмана в 2009 году как одного из "пяти самых интересных основателей стартапов за последние 30 лет" и, позже, как "того, каким должно быть был Билл Гейтс, когда он основывал Microsoft... внушающим уважение, уверенным человеком".
Пока Альтман возглавлял YC, инкубатор получал около 40 тысяч заявок от новых стартапов каждый год, 1000 основателей выступали с презентациями своих компаний. Несколько сотен получали финансирование от YC: обычно около $125 тысяч, а также наставничество и возможности для нетворкинга (включая еженедельные ужины и групповые консультации) в обмен на 7% компании. Руководство YC можно было рассматривать как лучшую работу в Кремниевой долине или одну из худших. С точки зрения венчурных инвесторов, руководство YC — это "проведение половины года в роли вожатого в лагере".
Большую часть своего президентства в YC Альтман жил с братьями в одном из двух своих домов в Сан-Франциско. Он проповедовал амбиции и масштаб, верил в то, что нужно нанимать людей, которых вы знаете. А также, что не стоит слишком заботиться о мнении окружающих. "Большой секрет в том, что вы можете менять мир по своему усмотрению удивительно часто — но большинство людей даже не пытаются", — написал он в своем блоге. "Самые успешные основатели не стремятся создать компании. У них есть миссия, нечто близкое к религии, и в какой-то момент оказывается, что создание компании — это самый простой способ выполнить миссию. Больший риск — посвятить себя мелкой идее, не думая достаточно масштабно".
Жизнь Альтмана была замечательной. Он стал чрезвычайно богатым. Он инвестировал в продукты, мечты каждого мальчишки, например, в разработку сверхзвукового самолета. Он купил дом в Биг-Суре, предназначенный для выживания в экстремальных условиях, и запасся там оружием и золотом. Он гонял на своих McLaren.
Эффективный альтруизм и основание OpenAI
Альтман разделяет философию эффективного альтруизма, который оправдывает зарабатывание огромных денег практически любыми доступными средствами на основе теории, что его сторонники лучше всего знают, как их тратить. Эта философия ставит будущее выше настоящего и представляет себе событие, аналогичное Вознесению, когда люди и машины объединятся.
В 2015 году, в рамках этой концепции, Альтман соосновал некоммерческую организацию OpenAI вместе с Илоном Маском и четырьмя другими — Ильей Суцкевером, Грегом Брокманом, Джоном Шульманом и Войцехом Заремба. Миссия некоммерческой организации состояла в том, чтобы создать "компьютер, который может думать как человек во всех отношениях, и использовать его для максимальной пользы человечества". Идея заключалась в том, чтобы создать хороший ИИ и доминировать в этой области, прежде чем плохие люди создадут плохой ИИ. OpenAI пообещал открыть исходный код своих исследований в соответствии с ценностями эффективного альтруизма. Если кто-то, кого основатели считали "соответствующим ценностям" и "заботящимся о безопасности", был бы готов создать общий искусственный интеллект (AGI) раньше OpenAI, они помогли бы этому проекту, а не конкурировали бы с ним.
Несколько лет Альтман сочетал должность президента YC с работой в OpenAI. Он отправлял бесчисленное количество текстовых сообщений и электронных писем основателям каждый день, и следил, как быстро люди отвечали, потому что, как он написал в своем блоге, он считал, что скорость ответа — "одно из наиболее заметных различий между великими и посредственными основателями". В 2017 году он рассматривал возможность баллотироваться в губернаторы Калифорнии. Однажды на ужине, когда он жаловался на политику и состояние штата, кто-то сказал ему: "Ты должен перестать жаловаться и что-то с этим сделать". На что Альтман ответил: "Хорошо". Он опубликовал платформу United Slate, в которой изложил три основных принципа: процветание за счет технологий, экономическая справедливость и личная свобода. Однако через несколько недель Альтман снял свою кандидатуру.
В начале 2018 года Илон Маск попытался получить контроль над OpenAI, утверждая, что организация отстает от Google. К февралю Маск ушел, оставив Альтмана у руля.
Через несколько месяцев, в конце мая, отец Альтмана получил сердечный приступ в возрасте 67 лет, занимаясь греблей на озере возле Сент-Луиса. Он скончался в больнице вскоре после этого. На похоронах Сэм выделил каждому из четырех детей Альтмана пять минут для речи. Сам был сдержан.
Закон Мура для всего
В марте 2021 года Альтман опубликовал эссе под названием "Закон Мура для всего". Статья начинается словами: "Моя работа в OpenAI каждый день напоминает мне о масштабе социоэкономических изменений, которые наступят раньше, чем большинство людей думают... Если государственная политика не успеет адаптироваться, большинство людей окажутся в худшем положении, чем сегодня".
Закон Мура, применяемый к микросхемам, гласит, что количество транзисторов на чипе удваивается примерно каждые два года, в то время как цена снижается вдвое. "Закон Мура для всего", предложенный Альтманом, предполагает "мир, где все — жилье, образование, еда, одежда и т. д. — становится в два раза дешевле каждые два года".
К тому времени, когда Альтман написал это, он покинул YC, чтобы полностью сосредоточиться на OpenAI. Одной из первых вещей, которую компания сделала под его руководством весной 2019 года, было создание коммерческого дочернего предприятия. Создание ИИ оказалось дико дорогостоящим; Альтману нужны были деньги. К лету он привлек миллиард долларов от Microsoft. Некоторые сотрудники ушли, возмущенные отступлением от "максимальной пользы для человечества". Однако большинство людей восприняли изменение спокойно.
"Что? Илон, который сам сто раз миллиардер, будет говорить нам, что Сэм плохой?", — сказал друг Альтмана. Альтман отказался от участия в капитале компании, и первоначально OpenAI ограничил прибыль своих инвесторов до не более чем в 100 раз (100x). Но это скорее имиджевый шаг. Миллиард, умноженный в сто раз, — это много денег.
Альтман продолжал гонять на своих машинах (одна из его любимых — Lexus LFA, выпуск которой был прекращен к 2013 году и, как сообщает HotCars, "стоила по крайней мере $950 тысяч"). В начале пандемии он носил свою газовую маску из израильской армии. Он купил ранчо в Напе. Альтман является вегетарианцем, но его партнер Оливер Малхерин, программист из Мельбурна, "любит коров", — говорит Альтман. Он приобрел дом стоимостью $27 млн на Русском Холме в Сан-Франциско. Он завел множество знаменитых друзей. Диана фон Фюрстенберг описала его в 2021 году как "одного из самых последних, очень-очень близких друзей. Знакомство с Сэмом немного напоминает знакомство с Эйнштейном".
Другие проекты Альтмана
Тем временем, когда OpenAI начала продавать доступ к GPT компаниям, Альтман разрабатывал ряд дополнительных проектов, готовясь к миру, преобразованному ИИ. Он инвестировал $375 млн в Helion Energy, перспективную компанию по ядерному синтезу. Если Helion будет работать (что маловероятно), Альтман надеется контролировать один из самых дешевых источников энергии в мире. Он инвестировал $180 млн в Retro Biosciences. Цель — добавить десять лет к продолжительности человеческой жизни. Альтман также разработал и привлек $115 млн для Worldcoin, проекта, который сканирует радужную оболочку глаз при помощи сферы под названием Orb. Каждая радужка затем связывается с криптокошельком, в который Worldcoin вносит валюту. Это решит две проблемы, созданные ИИ: различие между людьми и не людьми, необходимое после того, как ИИ окончательно сотрет границу между ними, и возврат части капитала людям после того, как компании типа OpenAI забрали большую его часть.
По сравнению с амбициями Альтмана амбиции, например, Марка Цукерберга кажутся относительно скромными. "Он строит город-государство для правления", — как выразился технологический писатель и подкастер Джатан Садовски. "Это человек с амбициями, похожими на амбиции Маска, человек, который выбирает 'империалистический подход'. Он действительно видит себя в качестве мирового гегемона, как сверхчеловека в ницшеанском понимании", — сказал Садовски. "Он одновременно создаст то, что уничтожит нас, и спасет нас от этого".
Затем, 30 ноября 2022 года, OpenAI выпустила ChatGPT. Программное обеспечение привлекло 100 миллионов пользователей за два месяца, став самым успешным запуском продукта в истории технологий. За две недели до этого Meta выпустила Galactica, но компания сняла ее через три дня, потому что бот не мог различить правду от лжи. ChatGPT также лгал и ошибался. Но Альтман выпустил его все равно и утверждал, что это достоинство: "Миру нужно привыкнуть к этому. Нам предстоит принимать решения вместе".
"Иногда аморальность отличает победившего руководителя компании или продукт от остальных", — сказал бывший коллега, работавший рядом с Альтманом в первые годы OpenAI. "Facebook технически был не особо интересным, так почему Цукерберг выиграл? Он мог расти быстрее и создавать продукты, не запутываясь в своем беспорядке".
Мировое турне 2023 и сравнение с Оппенгеймером
В мае 2023 года Альтман отправился в мировое турне по 22 странам и 25 городам. Изначально это должно было быть встречей с пользователями ChatGPT, но превратилось в своего рода выход в свет. Часто в костюме, иногда в своем сером хенли, Альтман представлял себя и свою компанию дипломатам как неизбежную новую технологическую сверхдержаву. Он встречался с британским премьер-министром Риши Сунаком, французским президентом Эммануэлем Макроном, испанским премьер-министром Педро Санчесом, немецким канцлером Олафом Шольцем, индийским премьер-министром Нарендрой Моди, президентом Южной Кореи Юн Сук-ёлем и президентом Израиля Исааком Герцогом. Он позировал для фото с президентом Европейской комиссии Урсулой фон дер Ляйен. На фото она выглядит элегантной и неприступной, он похож на персонажа игры "Где Вальдо?" — его телефон виден в переднем кармане брюк, его зеленые глаза выпучены от усталости и кортизола.
Затем Альтман вернулся домой. С конца июня по середину августа он много писал в Twitter. Если вы хотите понять его лучше, то это настоящее сокровище.
Фильм на сегодня: барби или оппенгеймер? Альтман опубликовал опрос. Барби проиграла 17% против 83%.
Ладно, выбираю OPpENhAImer. На следующее утро Альтман вернулся, чтобы выразить свое разочарование. Я надеялся, что фильм об Оппенгеймере вдохновит поколение детей стать физиками, но он не справился с этим.
Давайте снимем этот фильм! (Я думаю, что "Социальная сеть" смогла сделать это для основателей стартапов).
Внимательный читатель постов Альтмана мог бы остаться в недоумении. На протяжении многих лет Альтман проводил параллели между собой и создателем атомной бомбы. Он упоминал перед журналистами, что у него и Оппенгеймера один день рождения. Альтман пересказал слова Оппенгеймера Кейду Мецу из The New York Times: "Технология возникает, потому что это возможно". Поэтому Альтман не мог быть удивлен тем, что Кристофер Нолан в своем биографическом фильме не стремится вызвать энтузиазм. Оппенгеймер испытывал стыд и сожаление во второй половине своей жизни за свою роль в создании атомной бомбы. "Теперь я стал Смертью, разрушителем миров" — это самая известная цитата из "Бхагавад-гиты" (прим. — один из базовых текстов индуистской философии) и то, что Оппенгеймер рассказал NBC News, он держал в голове во время испытания Trinity.
Критика Альтмана
В своем мировом туре Альтман постоянно связывал себя с Оппенгеймером, обсуждая (довольно обтекаемо) экзистенциальный риск, создаваемый ИИ, и настаивая (очень конкретно) на создании регулирующего органа по образцу Международного агентства по атомной энергии. Мандат агентства — работать в интересах международного мира и процветания — казался прекрасным аналогом для случайного слушателя. Но экспертов это раздражало. "Ты говоришь: 'Регулируй меня' и добавляешь: 'Это сложная и специализированная тема, поэтому нам нужно сложное и специализированное агентство для этого', прекрасно понимая, что такое агентство никогда не будет создано", — сказал писатель Садовски.
Другая проблема — это неопределённость. Как объяснила инженер Хaйди Хлааф, специализирующаяся на оценке и проверке протоколов безопасности для дронов и крупных атомных электростанций, чтобы снизить риски от технологии, нужно точно определить, что эта технология может делать, как она может помогать или вредить обществу. А Альтман обходится общими словами, говоря, что ИИ может уничтожить мир (может быть, кто-то использует ИИ для создания сверхмощного вируса; может быть, кто-то использует ИИ для запуска ядерных ракет; может быть, сам ИИ повернется против людей — решения для каждого случая не очевидны). Более того, Хлааф утверждает, что нам не нужно новое агентство. ИИ следует регулировать в рамках сферы его применения, как и другие технологии. ИИ в творчестве должен регулироваться законом об авторском праве. ИИ в авиации должен регулироваться в этом контексте.
"Если вы даже не можете заставить вашу систему не дискриминировать чернокожих людей" — явление, известное как алгоритмическое смещение, которое влияет на всё, от того, как отбираются кандидаты на работу, до того, какие лица считаются наиболее привлекательными — "как вы собираетесь остановить её от уничтожения человечества?", — спросила Хлааф. "Небольшая ошибка в программном обеспечении может вывести из строя электросеть Нью-Йорка. Обученные инженеры это знают. Каждая из этих компаний, каждый лидер в области ИИ, имеют ресурсы и фундаментальные инженерные знания, чтобы выяснить, как снизить ущерб от этих систем. Отказ от этого — это выбор".
В тот же день, когда Альтман проводил опрос про Оппенгеймера и Барби, он также опубликовал:
все "творческое" является ремиксом того, что произошло в прошлом, плюс некий коэффициент эпсилон, умноженный на качество обратной связи и количество итераций.
люди думают, что они должны максимизировать эпсилон, но хитрость в том, чтобы максимизировать два других фактора.
Летом и осенью OpenAI столкнулась с обвинениями в обучении своих моделей (и обогащении) на наборах данных, включающих литературные произведения (нарушение авторских прав). Майкл Шейбон организовал коллективный иск, узнав, что его книги были использованы без разрешения для обучения ChatGPT. Федеральная торговая комиссия начала расследование предполагаемых массовых нарушений законов о защите потребителей со стороны компании. Теперь Альтман утверждал, что творчество на самом деле не существует. Чтобы ни думали о своей индивидуальности или своей ценности писатели или разозленные художники, они просто делают ремиксы старых идей.
Альтман использует язык математических формул, чтобы создать видимость уверенности. Термин "mathiness" (математичность), введенный в 2015 году лауреатом Нобелевской премии экономистом Полом Ромером, описывает математический язык, используемый не для разъяснения, а для введения в заблуждение. "Красота математического языка заключается в его способности передавать истины о мире в поразительно простых терминах E = MC2", — сказал Ноа Джансиракуза, профессор математики и науки о данных в Университете Бентли. "Я читал твит Альтмана снова и снова и все еще не до конца понимаю, как его интерпретировать, или что именно он пытается сказать".
Альтман привлекает хейтеров. "Это как фильм 90-х о ребенке, который оказался в теле взрослого и теперь должен притворяться и надеяться, что никто не заметит, понимаете?", — говорит Малкольм Харрис, автор книги "Пало Альто".
Часть насмешек и язвительных комментариев, безусловно, вызвана завистью. Часть является реакцией на средне-западное добродушие Альтмана. Но в основном это возмущение тем, что культура технологий снова становится закрытым клубом белых мужчин. "Мы, женщины, как бы пробились в этот мир на мгновение. Но как только мы начали говорить, нас поставили на место", — поделилась Мередит Уиттакер, глава Signal и бывший инсайдер Google. "Единственный выбор сейчас — оказывать давление со стороны. Я хочу, чтобы он понял всю серьёзность ситуации. Посмотреть в глаза и отвечать за свои слова", — сказала Уиттакер. "Мы говорим о присвоении творческого вклада миллионов, миллиардов людей, чтобы затем использовать их достижения для создания систем, которые лишают их средств к существованию. Разве мы действительно хотим превращать искусство в невнятные копии, сделанные с помощью программ от Microsoft, откалиброванных работниками из Кении, которые платят ценой своего душевного здоровья, чтобы результаты были 'политкорректны'"?
Чернокожий предприниматель, который, как и почти все в технологической отрасли, с кем я говорил для этой статьи, не хотел раскрывать своё имя из-за страха перед властью Альтмана, рассказал, что 15 лет пытался пробиться в закрытый клуб белых мужчин в сфере технологий. Он посещал правильные школы, был связан с нужными учреждениями, чтобы стать успешным и богатым. "Я бы не пожелал этого никому", — сказал он. "Илон, Питер и все их друзья, что бы они там ни делали — кто заставит их поделиться даже малой частью, когда нет реальной необходимости или давления? Система работает отлично для тех, для кого она создана".
Прим. — Далее в статье в подтверждение тезиса о неравенстве и закрытом клубе идет длинный рассказ о взаимоотношениях Сэма с сестрой Энни. Он сводится к тому, что ей Сэм уделяет в своей публичной жизни гораздо меньше внимания, чем братьям, из-за чего Энни очень переживает. Отношения сложные.
С тех пор, как Альтман стал генеральным директором OpenAI, компания не только размыла свой некоммерческий статус. Она перестала быть открытой, перестала публиковать свои данные обучения и исходный код, перестала делать свои технологии доступными для анализа и развития другим. Она перестала работать "для максимальной пользы человечества". В Мюнхене, во время своего мирового тура, Альтман спросил зал, хотят ли они, чтобы OpenAI выпустила GPT-5 с открытым исходным кодом.
Альтман сказал: "Ого, мы точно не собираемся это делать, но это интересно знать".
Заключение
В августе, во время интервью в кабинете Альтмана, я спросил его, чем он занимался последние 24 часа. "Одной из вещей, над которой я работал вчера, был вопрос: можем ли мы настроить ИИ в соответствии с человеческими ценностями? Технически у нас хороший прогресс. Теперь есть более сложный вопрос: "Чьи именно ценности это должны быть?"
Он также обедал с мэром Сан-Франциско, пытался сократить свой список дел из 98 пунктов и занимался в спортзале (хотя, как он сказал с некоторой усталостью, "Я отказался от попыток стать настоящим качком"). Он приветствовал новых сотрудников. Ужинал со своими братьями и Олли. Лег спать в 20:45.
Это несколько странно — видеть императора, скрытого за добродушной маской. Альтман рассказал мне, что одной из его самых ценных вещей является мезуза (прим. — свиток пергамента с текстом молитвы), которую его дедушка носил в кармане всю свою жизнь. Он и Олли хотят скоро завести детей; ему нравятся большие семьи. Иногда он так громко смеётся, что ему приходится ложиться на пол, чтобы перевести дыхание. Он собирается учитывать интересы людей в том, что создает. Он понимает, что "история ИИ не только о преимуществах", что "что-то здесь будет потеряно", и что "очень понятное и естественное чувство — бояться потерь. Люди не хотят слышать истории, в которой они становятся жертвами".
Его публичный образ, сказал он, "соответствует мне лишь отчасти".