September 29, 2023

Что, если роботы были очень добрыми, пока они захватывали мир?

Тривиальная сингулярность

1 подписчик

Подписаться

Сначала были шахматы и Го. Теперь ИИ может победить нас в Дипломатии, самой человеческой настольной игре. Способ, которым он побеждает, дает надежду, что ИИ, возможно, будет радостью.

#Роботы #ИскусственныйИнтеллект #Метаигры #Дипломатия #Игры #Наука #Технологии #Инновации #ИгроваяТеория #Исследования

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

МОРРИССИ ОБЛАДАЛ правильной мелодрамой в своих конечностях, и его голос был сильным и больным. Я был в Грэмерси Театре в Манхэттене, чтобы увидеть трибьют-группу Смитс. Я пытался воссоздать кислотный йодль Моррисси в своем горле, чтобы петь вместе. Я человек и мне нужна любовь / как и каждому другому. Но мне не было удобно копировать копию.

Большинство трибьют-групп не занимаются прямым подражанием, поэтому то, как этот фальшивый певец Смитс передал все о Моррисси, сбивало меня с толку. Я надеялся насладиться маудлиновой славой музыки без головной боли от плоти и крови Моррисси, который, похоже, союзничествует с супрематистами. Презрение в текстах и политике Моррисси, вероятно, не было свойственно Сэнисси, как называл себя трибьют-певец. Выступление Сэнисси, вероятно, не было, как говорят, "из плохого места" - ни из ненавистного места, ни из крайне правого, ни даже из веганского.

Откуда это произошло? У меня неоднократно возникало это чувство безысходности с ChatGPT. Когда он использовал идиомы вроде "в моей жизни", хотя у него и нет жизни, меня охватывала холодная дрожь. То же самое относится к привыканию к Синисси, нежному манхэттенцу, который случайно пел и танцевал, как Моррисси. Страсти, которые пробудились во мне тридцать лет назад под влиянием Smiths, казались плохой эмоциональной ставкой.

Возможно, искусственный интеллект, стремящийся быть похожим на человека, лучше всего понимается как трибьют-акт. Трибьют нашей человеческой нужды, капризности, горечи, любви - все то, в чем мы, смертные, лучше всего разбираемся. Все то, в чем компьютеры обычно не разбираются. Но люди опасаются того, что неживые существа притворяются настоящими - репликанты, ящерицы, роботы с кожей. Существо, имитирующее человеческие эмоции,, пожалуй, является еще худшим объектом привязанности, чем холодное вычислительное устройство, которое вообще не испытывает эмоций.

Когда я пришел домой, окунувшись в странную долину, звучащую под музыку Smiths, в моем почтовом ящике было письмо от Эндрю Гоффа, широко признанного величайшим игроком в Дипломацию всех времен.

Это подняло мне настроение. Дипломатия, 69-летняя американская стратегическая игра, по многим оценкам, является самой человеческой игрой, которую только можно представить. Механически она проста: семь игроков соревнуются за контроль над центрами снабжения на карте, и победителем становится тот, кто контролирует более половины этих центров. Но игра ведется практически исключительно в ходе серии разговоров, часто сложных и эмоциональных. Муки и экстаз - именно те муки и экстаз, которые испытывает Моррисси, - часто наваждение в переговорах. В живой игре игроки известны тем, что они кричат, разрушают дружбу, сбрасывают игру или просто сидят и плачут.

С различными панковскими прическами и черными пуговицами в ушных раковинах, Гофф является фанатом Smiths, и он даже немного похож на покойного басиста группы, Энди Рорка. К моему изумлению, Гофф однажды назвал игровую доску Дипломатии "Девушка в коме". Всегда путешествуя по миру для участия в турнирах и своей корпоративной работе, Гофф кажется более общительным, чем большинство элитных игроков в настольные игры.

Гофф также известен блестящим, подрывающим, убить их добротой стилем игры. Как сказала Сиобан Нолен, бывший президент Североамериканской Дипломатической Федерации: "Меньше болит проиграть против кого-то вроде Эндрю". В Дипломатии игрокам иногда приходится выбирать, какие атаки на их территорию отражать, а какие сдаться. Игроки часто позволяют Гоффу раскатывать свои силы, потому что они знают, что он, в отличие от многих других, не будет об этом злорадствовать.

Есть отличные игроки в Дипломатии, которые бушуют и угрожают, пустыми и не очень: "Если ты меня предашь, я проиграю игру". Гофф не из таких. Даже его записки о разрыве отношений являются шедеврами прямоты и приличия. "Извинения, Турция! Я решил, что в моих интересах работать с Россией сейчас. Надеюсь, нет обид". В его приветливости также есть эмпатия. "Мне действительно жаль игроков, когда они проигрывают, даже если это я их побеждаю", - сказал мне Гофф. Я ему поверил.

В электронном письме речь шла о Cicero, разработанном для Meta AI совместно с Гоффом. В прошлом году Cicero смог победить Гоффа в нескольких играх, иногда сотрудничая с более слабыми игроками, чтобы его повалить. Ноам Браун и Адам Лерер, которые были частью огромной команды экспертов в теории игр, обработке естественного языка и Дипломатии, создавшей этого ИИ, оба говорят, что Cicero - самый похожий на человека ИИ, который они когда-либо создавали. Лерер, который теперь работает в DeepMind, идет еще дальше: Cicero, возможно, самый похожий на человека ИИ на земле.

Неужели Cicero может быть сознательным? "Порогом для определения сознательности ИИ является его способность обмануть людей в Дипломатии", написал ирландский чемпион Дипломатии Конор Костик в своей книге "Искусство переписки в игре Дипломатия" в 2015 году.

Cicero также является своего рода трибьют-группой Goff. Он играет в ту же великодушную игру, что и Goff. В одной запоминающейся схватке Лерер сказал мне, что Cicero сыграл за Россию и союзничал с игроком, который играл за Австрию. На протяжении игры, по словам Лерера, Cicero был "очень добр и полезен Австрии, хотя он маневрировал в своих обсуждениях с другими игроками, чтобы ослабить и в конечном итоге победить Австрию. Но в конце игры [играющий] Австрию был полон похвал для Cicero, говоря, что ему очень понравилось с ним работать и он рад его победе".

В целом, гроссмейстеры, проигрывающие ИИ, тяжело это переносят. "Я потерял боевой дух", сказал Гарри Каспаров в 1997 году, после поражения в шахматах от Deep Blue. "Я безмолвен", - сказал Ли Седоль в 2016 году, после поражения в Го от AlphaGo. Казалось, что с Гоффом было наоборот. Он оживился, сказал он. "Дипломатия имеет репутацию игры лжи, но на самом высоком уровне это совсем не так. Убедиться в этом благодаря ИИ было восхитительно".

Это наполнило меня облегчением. Может быть, ИИ просто усилит лучшие качества людей. Может быть, ИИ станет бодрой трибьют-группой для всего нашего вида. Может быть, ИИ будет радостью - и силой, которой люди будут довольны проигрывать. Мы уйдем в мире. Нам очень нравилось работать с вами, роботы, и мы рады, что вы побеждаете.

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

ДИПЛОМАТИЯ БЫЛА СОЗДАНА в 1950-х годах Алланом Б. Калхамером, студентом Гарвардского университета, который изучал европейскую историю со Сидни Брэдшоу Фаем, выдающимся историком. Книга Фая 1928 года, Происхождение мировой войны, предложила увлекательную головоломку: можно ли было предотвратить Первую мировую войну с помощью лучшей дипломатии?

Традиционно игра Калхамера проходит на карте Европы, Османской Турции и Северной Африки 1901 года. Игроки могут ощутить азарт построения империи XX века без всей крови, подчинения и геноцида. У них есть так много власти над западной цивилизацией, что современные игроки иногда наряжаются по образу кайзеров и царей.

Хотя доска напоминает Риск, геймплей в Дипломатии больше похож на Выживание. Все берут свою очередь на своеобразном племенном совете, но действие происходит в переговорах между ходами. Другим аналогом Дипломатии может быть Холостяк.

Исторически Дипломатия была известна как игра для змей и времяпрепровождение для таких людей, как Джон Ф. Кеннеди, Генри Киссинджер, Уолтер Кронкайт и Сэм Банкман-Фрид. Но Цицерон, который играет в несуммируемую версию игры, стимулирующую сотрудничество, не является змеиным. Майк Льюис из команды Meta говорит, что Цицерон использует диалог только "для установления доверия и координации действий с другими игроками" - никогда не для троллинга, дестабилизации или мстительной предательности. Более того, как сказал Льюис в социальных сетях, "она создана так, чтобы никогда не наносить преднамеренного удара в спину". Как и хитроумный участник Холостяка, Цицерон может убедить другого человека объединиться с ним.

Цицерон интегрирует большую языковую модель с алгоритмами, которые позволяют ему планировать ходы, делая выводы о верованиях и намерениях других игроков по их общению. Затем он создает звучащий диалог, чтобы предложить и спланировать взаимовыгодные ходы. По данным Meta, в 40 "блиц-играх" в анонимной онлайн-лиге Дипломатии Цицерон добился более чем в два раза выше среднего результата человеческих игроков. За 72 часа игры, включавшей отправку 5 277 сообщений на естественном языке, Цицерон занял место в десятке процентов участников, сыгравших более одной игры.

Когда Цицерон выигрывает, сказал мне Гофф, нет высокомерия, «нет разговоров типа "Ха-ха, ты проиграл"». Вместо этого «разговоры гораздо больше о том, что "твоя позиция не очень хорошая, но у всех бывают игры такого рода иногда"».

ДИПЛОМАТИЯ - это узкое увлечение. Она далеко не такая древняя игра, как шахматы или Го. И ее никогда не считали всеобщим интеллектуальным тестом; вместо этого это хобби любителей истории. С 1976 года игра издается Avalon Hill, знаковым издательством стратегических игр, таким же, как Rough Trade Records для инди-рока. Дипломатия настолько нова, что еще не находится в общественном достоянии, в том старом аркадном мире, где шахматы и Го завоевали миллионы поклонников, которые совместно разработали эти прекрасные игры вместе с нашими человеческими мозгами. В сравнении с ними Дипломатия только начинает свой путь. В 2014 году Grantland назвал ее «настольной игрой альфа-фанатов».

Думаю, я могу назвать себя мамой Дипломатии. Когда мой сын учился в средней школе, он и его друзья играли в Дипломатию целые выходные в моей квартире. Мы раскладывали величественную карту на столе, перенесенном в гостиную, подавали газировку в бренди, и зажигали свечу с запахом трубочного табака. Для их бесед мы расставляли складные стулья в спальнях. Когда было возможно, я подслушивала их подростковые планы на будущее Европы.

К моему удивлению, эти разговоры о том, что казалось техническим предприятием, использовали перегруженные идиомы, как «клянусь своей жизнью» и «я имею в виду это сердцем». Самое любопытное и постоянное - мальчики использовали фразу «я люблю», как, например, «я люблю этот ход». Цицерон тоже так говорит.

Пока я следила за двухдневными играми, каждый из семи детей проходил через спектр эмоциональных и физических состояний. Они становились по очереди сонными, рассеянными, голодными, параноидальными, заносчивыми, побежденными, трусливыми и глубоко скучающими. Один или двое бросали. Мне нравился ритм их эмоций, которые приливали и отливали. По крайней мере, два стиля (в основном неэффективной) игры названы по эмоциональности, которая их характеризует: Месть-ищущий и Carebear.

ВЫ НЕ УЧИТЕ искусственный интеллект играть в определенную игру для улучшения этой игры; вы учитесь, как играть в игру, чтобы улучшить искусственный интеллект. Дипломатия является отличной площадкой для обработки естественного языка. Если бы Мета попросту пыталась создать искусственный интеллект, использующий слова, чтобы заставлять людей делать что-то, она не могла бы найти лучший способ обучить его, чем с помощью бесчисленных партий в Дипломатию.

Тем не менее, онлайн-игры, в которые играет Цицерон, отличаются от страстных игр, которые я раньше организовывал. Во-первых, они короткие - примерно по 90 минут каждая. Сольные победы, которые обычно требуют жестоких предательств, редки. И общение здесь скорее утилитарное, чем страстное.

Человек: Немного нервничаю из-за всех ваших флотов там. Собираюсь переместить флоты МАО (Mid-Atlantic Ocean) в SPA-SC (южное побережье Испании).

Цицерон: Понимаю, я действительно понимаю. Не волнуйтесь. Я собираюсь переместить Тунис в Ионическое море. У меня нет причин нападать на вас сейчас. Я иду против Турции. Я полностью понимаю ваше беспокойство.

Человек: Спасибо — я сразу же уйду из SPA-NC.

Цицерон: Прекрасно! Большое спасибо за понимание.

Когда я впервые услышал о Цицероне, я предположил, что он провалится в игре "Дипломатия", потому что никто не хочет дружить с бездушной машиной, которая пытается звучать как человек. Если бы игроки знали, что Цицерон - это искусственный интеллект, я рассуждал, у него не было бы никаких шансов. Люди объединились бы и разгромили его, чтобы отомстить за наш вид. Костик, в свою очередь, сказал, что он был бы готов нанести удар по боту, так как боту нечего обидеть.

Но когда я задумался об этом глубже, я понял, что партнерства формируются по недовербиевым причинам тоже. Тот, кто отличается стратегическим мышлением, на самом деле может быть надежным спутником. Возможно, небольшой R2-D2 смог бы завоевать меня в качестве союзника, не обладая человеческой добротой, а предлагая мне свои взгляды на ситуацию и представляя мне элегантные варианты решения проблемы на основе данных.

Когда я спросил Лерера о своей идее с R2-D2, он согласился. "Я думаю, что человек, который использовал бы Цицерона в качестве помощника для разработки тактических и стратегических планов, но мог бы лучше ориентироваться в человеческих аспектах, таких как когда безопасно лгать или как избежать раздражения союзника, был бы очень сильным."

Цицерон слишком часто говорит "Прекрасно!" Но это может быть особенно раздражающим в том характерном для ИИ стиле: иногда он начинает видеть несуществующие варианты. Он предлагает незаконные ходы. Что еще хуже, он отрицает, что только что сказал. Стоя перед этими ошибками, человеческие противники Цицерона иногда злиться. Но они не догадывались, что это ИИ. Они думали, что он пьян. И, возможно, эти недостатки личности - небольшая цена, чтобы заплатить за глубокие запасы сырого интеллекта и предвидения бота.

Если аура "понимания" Цицерона на самом деле является еще одной алгоритмической операцией, иногда согласие в восприятии - это все, что нужно, чтобы построить связь. "Я понимаю, в связи с тем, как часто происходит ваша позиция, почему вам нервно относиться к этим флотам." Или, вне игры "Дипломатия": "Я понимаю, поскольку жить в одиночестве ухудшает ваше настроение, почему вы хотите иметь соседа." Когда стандартные приемы обслуживания клиентов - "Я понимаю, почему вы раздражены" - использовались в диалоге Цицерона, это оказывало приятное воздействие. Неудивительно, что моральные философии ИИ сильно опираются на модное слово "согласованность". Когда восприятия двух умов о третьей вещи совпадают, мы можем назвать это согласованностью когнитивного эквивалента любви.

Тем не менее, я не был очарован. Для меня Цицерон звучал как один из тех заботливых, практичных, честных супругов - того типа непростого партнера, которого страстные фанаты группы Smiths иногда хотели бы удовлетвориться. Но если игровой стиль Цицерона должен был быть более прагматичным, чем нежным, ему все равно пришлось использовать язык сердца в целях убеждения. "Убеги со мной" - лучшая просьба, чем "Давайте сэкономим, подав налоговую декларацию вместе."

Для того, чтобы Цицерон мог изучать тонкости вовлечения людей эмоционально, ему необходимо было обучаться не только "самостоятельной игре". Его нельзя было оставить в углу, играющим в "Дипломацию" сам с собой, проходя бесконечное количество игр, предполагая идеальную рациональность всех роботов-игроков и генерируя интеллектуальный капитал таким образом, как это делает майнер биткойнов. Самообучение хорошо работает для изучения конечной игры на двоих с нулевой суммой, такой как шахматы. Но в игре, которая включает в себя конкуренцию и сотрудничество с капризными людьми, самоиграющий агент рискует сойти с "политики, несовместимой с человеческими нормами и ожиданиями", как указано в статье о Цицероне в Science. Он бы отчуждал себя. Таким образом, и Цицерон похож на человека. Когда он играет только сам с собой целый день каждый день, он может стать слишком странным, чтобы играть с другими.

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

КОГДА НОАМ БРАУН объяснил мне, как он и его команда тренировали Cicero, он подчеркнул проблему мета-игры. Мета-игра в Дипломатии (или в игру в косточки, Скрэббл, боулинг и т. д.) можно рассматривать как ее место в мире. Почему играть в эту игру? Почему здесь и почему сейчас? Это тест на чистый интеллект, социальные навыки, физическую силу, эстетическое совершенство, хитрость? Вы можете играть в Wordle, скажем, потому что это делают ваши друзья, или это расслабляет вас, или говорят, что это замедляет старение. Искусственный интеллект, который программирован играть в Wordle только для победы, играет в другую мета-игру.

Брауну и команде Cicero было необходимо убедиться, что их искусственный интеллект и человеческие игроки считают себя играющими в одну и ту же игру. Это сложнее, чем кажется. Мета-игры могут меняться очень внезапно, и, как писал Томас Кун, они могут меняться по социологическим, культурным, эстетическим причинам или без видимой причины вообще. Значит, по причинам, связанным с человеком.

В ранние сезоны Survivor, рассказал мне Браун, участники считали важными социальные цели, которые они коллективно определили, игнорируя возможности для стратегических подвигов, которые впоследствии стали сердцем игры. "Не говоря уже о том, что одна игра правильная, а другая - нет," - сказал Браун. "Но если бы участники ранних сезонов Survivor сыграли в современную игру Survivor, они бы проиграли." (Даже социальное явление, такое как материнство, может иметь мета-игру. Хорошая мать в одну эпоху становится плохой в следующей.)

Мета-игра Дипломатии также изменилась. В первые десятилетия после войны игроки стремились попробовать свои силы в такой виде грандиозной европейской дипломатии, в которой их предки так катастрофически провалились. Эти ранние игроки произносили красивые идеалистические речи, часто призывая к пацифизму. (Дипломатия, парадоксально, - это военная игра без пролитой крови; цель - занимать центры, а не убивать людей.) Но так как им также приходилось выполнять тактические задачи, которые противоречили идеалистической риторике, и так как игра обычно проходила по принципу "победитель получает все" ("до 18"), им часто приходилось лгать. Таким образом: нанести удар в спину.

Однако, поскольку в реальном мире государственное искусство стало предпочитать теорию игр традиционной дипломатии, метаигра также изменилась. Онлайновые игроки больше не приглашали друг друга в солярии или бильярдные комнаты, чтобы произносить речи о том, как сделать мир безопасным для демократии. Игры стали короче. Коммуникация стала прямолинейнее. Если кто-то в 1960-х годах играл в "Дипломацию" по почте и использовал хитрости, чтобы раздразнить игроков друг против друга, современный игрок может просто написать "CON-BUL?" (За "Константинополь в Болгарию?")

Это современная метаигра "Дипломации". Подавляющее большинство высказываний основаны на расчетах теории игр, и даже люди общаются на языке кода. Лерер шутил, что в современной онлайн-Дипломации даже человеческие игроки не проходят теста Тьюринга. Перед Цицероном, похоже, люди уже начали играть, как искусственный интеллект. Возможно, чтобы искусственный интеллект победил в "Дипломации", "Дипломация" должна стать менее человеческой игрой.

Костик, который выиграл Европейский гран-при в "Дипломации" в 2000 году и был частью ирландской команды, которая выиграла Кубок мира по "Дипломации" в 2012 году, скучает по старому стилю игры. "Вся цель дизайна игры Аллана Калхамера", - сказал он мне, - "создать динамику, где все игроки боятся удара, но должны совершить удар или ложь, чтобы стать единственным человеком, достигнувшим 18."

Костик считает, что хотя он "был бы в восторге от практических результатов игры на сайте Цицерона", проект Meta не отвечает ожиданиям. Костик считает, что из-за ошибок Цицерона его легко обмануть спамом и противоречивыми вводами. Более того, по мнению Костика, Цицерон не играет настоящую "Дипломацию". В онлайновой игре с низким уровнем удара, которую играет Цицерон, карты на его стороне, потому что игрокам не нужно лгать, что Цицерон делает плохо. (Как сказал мне Лерер, "Цицерон не понимал долгосрочной стоимости лжи, поэтому мы в основном заставили его не лгать"). Костик считает, что метаигра Цицерона неправильна, потому что "он никогда не знает, что человеку лучше, и не рекомендует ему набор ходов, которые он знает, что не в его интересах". Удары, по мнению Костика, являются неотъемлемой частью игры. "Игрок в 'Дипломацию', который никогда не делает удара, похож на шахматного гроссмейстера, который никогда не матует."

С некоторой тревогой я упомянул жалобу Костика Гоффу.

Несомненно, Гофф отмахнулся. Он считает, что Костик и его поколение неправильно понимают игру и создают ей несправедливую репутацию лживости. "Цицерон делает удары, только редко", - сказал Гофф. "Я отвергаю прямо, что это было намерение Калхамера требовать от игроков удары."

Я мог сказать, что мы попали в метаигровую территорию, когда Гофф и Костик начали спорить о намерении создателя игры, словно они были библейскими учеными или оригиналистами конституции. В дополнение Гофф подкрепил свои аргументы, ссылаясь на аксиому высокоуровневой теории и призывая к элитарному согласию.

"Независимо от намерений Калхамера, теория игр говорит: 'Не лги'", - сказал он мне. "Это не вызывает споров среди лучших 20 игроков в мире."

Когда кто-то утверждает, что его метаигра является "настоящей" - потому что так хотел ее основатель, или все лучшие люди согласны, или всеобщая академическая теория говорит x или y - это очень человеческий способ попытаться управлять дестабилизирующим сдвигом парадигмы. Но, следуя Куну, такие сдвиги происходят, когда достаточное количество людей или игроков случайно "выравниваются" с одной версией реальности. Чтобы разделить эту версию, требуются все причуды существования, включая возраст, характер и идеологию. (Костик, анархист, склонен быть подозрительным по отношению ко всему, что делает Meta; Гофф, финансовый директор глобальной компании контента, считает, что ясное и нелживое общение может способствовать социальной справедливости.)

Возможно, когда-нибудь вокруг дипломатического стола у меня дома Костицкого, которому 59, и Гоффа, которому 45, они зажгут шоколадные сигареты и согласуются по поводу того, что делать с Австрией или Турцией. Что касается настоящего времени, они даже не согласовались по шахматам. "Гроссмейстеры в шахматах никогда не делают мат," - сказал мне Гофф.

Это я разрешил самостоятельно. Гроссмейстеры в шахматах играли на протяжении различных эпох до мат-шаха, вместо того, чтобы заканчивать игру, когда противник рано сдается, чтобы спасти лицо. Есть все еще моменты, когда мат-шах настолько красив, что оба игрока хотят увидеть его реализацию. Но Гофф прав. Сегодня гроссмейстеру редко удается сделать мат-шах.

Но это вопрос эстетики - играть на мат-шах. Точно так же, как проникновение и удар и быть настолько приятным, что людям не против, если вы их победите. Абсолютист вроде Моррисси мог бы сказать, что инди-рок всегда должен звучать одним и тем же образом, или что Великобритания, в своей сущности, такая или иная. Но это не имеет значения. Метаигры меняются. Только люди, со всей своей произвольностью, основанной на наших соперничающих и сотрудничающих центрах снабжения, решают, какие игры стоит играть, как их играть - и почему.

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

ИЛЛЮСТРАЦИЯ: СИЕННА О'РУРК

Я не могу забыть, насколько приятным человеком является Гофф. Ему, казалось, нравится Цицерон, даже несмотря на поражение. Гофф размышлял, что Цицерон играет "на очень высоком уровне". И он признался: "несколько раз он меня полностью унизил, включая случай, когда помог новичку меня побить".

И вот редкая история ИИ, которая не заканчивается существенной переоценкой человечества, подумал я. Мы не смотрим в бездну. Боты, подобные Цицеро, будут понимать наши желания и потребности, соответствовать нашим особым мировоззрениям. Мы будем создавать партнерства, как в боевиках, позволяющие нам черпать их огромную вычислительную мощность с ложкой сахарной естественной речи. И если, дойдя до конца пути, нам придется решить, проиграть ли неприятным людям или благородным ботам, мы не задумаемся. Мы изменим наши завещания, оставим им все, что у нас есть, и позволим им прокатить свои бодрые танки прямо над нашими домами.

Но неужели я тоже попался на привлекательность Гоффа, как и многие до меня? Я подумал в последний раз, может быть, он всё-таки притворяется равнодушным по отношению к Цицерону. Он снова исправил меня: "Вероятно, у меня было больше побед над ним за время эксперимента", - сказал он.

Так что он на самом деле победил. Вот почему ему было все равно. Затем он добавил, конечно же, благородно: "Было очень трудно".

Художественная работа в сотрудничестве с иллюстратором Сиенной О'Рурк и Midjourney AI.