Почему смешарики никак не могут собраться репетировать кордебалет? Почему мировые державы никак не могут ратифицировать какой-нибудь договор, который принесет пользу вообще всем? Почему среднестатистический обыватель никак не может начать бегать по утрам? Короче говоря, почему люди никак не могут нормально скооперироваться друг с другом для достижения общих целей?
В какие игры играют рационалисты - так, чтобы это было не только весело, но еще и прокачивало различные мета-скиллы, полезные при максимизации нашей функции полезности? Есть игры на угадывание задуманного правила (Zendo, Научное открытие и другие вариации), есть Fallacymania, есть рациональное Табу, Aumann’s Agreement Game (правда, как я упоминал в математической статье по теореме Ауманна, игра имеет к ней мало отношения и еще только ждет своего математического описания).
Рационалисты стремятся стать идеальными байесианскими агентами (или, по крайней мере, приблизиться к этому идеалу), в частности - максимально использовать всю поступающую информацию для формирования как можно более точной карты. К сожалению, на практике проводить байесовское обновление на каждый чих - совершенно невозможно.
Общаться с рационалистами очень полезно. Рационалисты чаще выигрывают и могут дать более хороший совет, чем остальные люди при прочих равных. Рационалисты много занимаются улучшением своей эпистемической рациональности, и обсуждение какой-либо темы с ними практически избавлено от мусора и приходит к цели кратчайшим путем. Ну, по крайней мере, в теории.
На позапрошлой неделе я послушал лекцию Славы Меритон про Functional Decision Theory (функциональную теорию принятия решений) в контексте различных парадоксов (а на этой неделе будет еще одна лекция). Было очень интересно, но сходу - не всё понятно. Однако проговорив эти парадоксы еще раз, и затем еще немного подумав, я наконец осознал один полезный фрейм, в котором мы можем принимать выигрышные решения во всех этих парадоксах.
Что если я скажу вам, что вторая по известности среди рационалистов математическая теорема - является наиболее неверно понимаемой? Причем до такой степени, что относительно ее сути заблуждались Элиезер Юдковский, Скотт Ааронсон и сам автор теоремы Роберт Ауманн. Звучит дико, и я сам был озадачен в свое время не меньше вашего (и до сих пор сильно озадачен), но позвольте мне объясниться. Прежде чем пояснять, почему же все эти уважаемые (и отнюдь не чуждые математике) люди, действительно ошибаются, я расскажу, в чем же на самом деле суть теоремы Ауманна.
Эпистемическая рациональность базируется на способности строить хорошие (т.е. обладающие большой предсказательной силой) модели окружающих вещей и явлений. Один из эффективных способов отличить хорошие модели от плохих (а также перейти от менее хороших моделей к более хорошим) - изучить наличие т.н. "шестеренок" в модели (gears in understanding).