Наталия Поварова | Думаем об ИИ и людях

Новые способности ценой прозрачности: что не так с Astra от OpenAI

2026-10-04T05:37:12.606Z

Есть глобально два способа сделать модель лучше:

сделать её больше;
добавить больше вычислений при том же размере.

Первые несколько волн прогресса у трансформеров (это наши любимые GPT, Claude и иже с ними) пришли с увеличением числа слоёв, объёма данных и мощности процессоров. А потом придумали цепочки рассуждений (chain-of-thoughts), и трансформеры стали ещё круче.

Цепочки рассуждений — это подход к решению задач: модели дают задачу и требуют расписать каждый шаг решения. Например, дают какой-нибудь сложный математический пример, и она расписывает: сначала раскроем скобки, потом выполним умножение, потом сложение, — и результат получается точнее при том же размере самой модели и при том же наборе обучающих данных.

Сейчас нейросети (я использую слова “нейросеть”, “модель” и “языковая модель” как синонимы в этом посте) стали огромные, и им нужны всё более мощные процессоры, и процессоры дорожают.

Сведущий человек объяснял мне, что у процессоров есть физический предел, до которого их можно уменьшить и сделать мощнее, но я не рискну это всё вам воспроизводить, чтобы не наврать. В общем, возможности процессоров ограничены.

Поэтому исследователи почесали в затылке, вернулись к идее оптимизировать вычисления и придумали вставить в трансформер рекуррентный блок.

“Рекуррентный” значит “возвратный” или “повторяемый”. Это такой блок, который много раз гоняет один и тот же кусочек данных через одни и те же вычисления.

Допустим, наши данные — это текст, и допустим, что наша модель обрабатывает его слово за словом. “Обычная” модель обрабатывает одно слово, выдаёт результат, обрабатывает следующее и так далее. Модель с рекуррентным блоком берёт одно слово и несколько раз его пересчитывает, каждый раз извлекая из него немного больше информации.

Эта идея описана в статье “Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach” (“Масштабируем вычисления скрытыми рассуждениями: подход через рекуррентную глубину”). Рассмотрим схему из этой статьи:

Процесс состоит из трёх этапов:

Текст, который передали модели на вход, превращается в векторы — это на схеме голубой блок P;
Рекуррентный блок крутит одно слово несколько раз — это зелёные блоки;
Наконец, получается матрица, которая трансформируется в предсказание следующего слова — розовый блок.

Этапы 1 и 3 стандартные, а вот этап 2 новый. На вход в него подаётся векторное представление слова (e на схеме). В блоке R происходит вычисление: там просто математическая формула, которая меняет вектор, в который превратилось слово, и получается новый вектор.

А потом они берут новый вектор, исходный вектор, склеивают их и снова прогоняют через формулу, и получается третий вектор. Потом берут этот третий вектор, исходный — и опять в ту же формулу.

Хорошая математическая аналогия — формула Герона для нахождения квадратного корня числа. Вот она:

½*(x_n + a/x_n)

Это как будто наш блок R.

Допустим, мы хотим посчитать квадратный корень из 25. Для начала нам надо выбрать число наобум — допустим, 7, — и подставить его в формулу вместо x_n.

Вместо a в формуле мы подставим 25 (потому что мы ищем его корень). Получится так:

½*(7 + 25/7) –> примерно 5,29.

Потом мы берём 5,29 (наш новый вектор) и подставляем его обратно в формулу:

½*(5,29 + 25/5,29) –> получится примерно 5,008.

Можно сказать, мы уже получили ответ. Но давайте его тоже подставим в формулу:

½*(5,008 + 25/5,008) = 5,000006 — мы медленно приближаемся к числу 5.

А когда мы 5 подставим в формулу, получится

½*(5 + 25/5) = 5.

Здорово, правда? Дальше результат не будет меняться, и вот мы получили квадратный корень — можно даже без калькулятора обойтись. Можете попробовать подставить разные числа и посмотреть, что получится.

Рекуррентный блок делает примерно то же самое: он на каждом шаге получает немного более точный ответ до тех пор, пока ответ не перестанет заметно меняться. И выходит, что модель та же, данные те же, а результат лучше.

Astra — новая модель OpenAI — использует такую архитектуру: эти ребята времени зря не теряют и собирают пылесосом все новые идеи, у которых есть потенциал.

Архитектура не нравится специалистам по безопасности: оказалось, что модель стала менее прозрачной и менее контролируемой, и при этом более способной.

Дело в том, что цепочку рассуждений можно было открыть, посмотреть и понять, как модель пришла к своему ответу. А вот такие рекуррентные блоки никакого видимого человеку выхода не дают, поэтому вскрыть их и изучить сложнее.

В техническое описание OpenAI недавно добавили отчёт о проверках безопасности, но сама архитектура закрыта (во всяком случае, пока).

Посмотрим, во что выльется эта история, но наблюдать за ней интересно. Я вот думаю, что методами механистической интерпретации в рекуррентные блоки заглянуть можно: собирать результаты после каждого прогона, потом их изучать и смотреть, что поменялось. В Astra влезть не выйдет: это закрытая коммерческая модель. Но есть некоторые открытые эксперименты. Туда можно попробовать влезть.

Что почитать, чтобы лучше разобраться в теме

Здесь есть раздел про рекуррентные нейросети (“Наконец, о нейросетях”), он поможет лучше понять рекуррентный блок.
Здесь подробно описано, как языковые модели обрабатывают текст и превращают его в векторы.
Здесь я рассказала, что за механистическая интерпретация такая и с чем её едят, а здесь — какие в этой области есть нерешённые проблемы.

ИИ меняет рынок труда. Или не меняет. Или не рынок

2026-09-13T08:34:51.498Z

Генеративный ИИ влияет на рынок труда. Кто-то мечтает сотрудников заменить ИИ-агентами, кто-то боится стать тем самым сотрудником, но что происходит на самом деле? Сегодня посмотрим пару работ на эту тему и подумаем, что нам со всем этим делать теперь.

Авторы обзорной статьи “AI and jobs. A review of theory, estimates, and evidence” (“ИИ и профессии. Обзор теоретических подходов, оценок и свидетельств”) пришли к следующим выводам:

ИИ хоть и распространился широко, влияет на рынок труда мало.
Но судить пока рано, потому что прошло не так много времени с тех пор, как появились последние технологии генеративного ИИ. Прошло несколько лет, но рынок труда и большие экономические тренды инертны и реагируют на новое с задержкой.
Если попытаться предсказать будущее с помощью разных экономических моделей, выходит, что будет расти разрыв в оплате труда низкоквалифицированных и высококвалифицированных сотрудников, а ещё появятся новые формы занятости.
Молодым специалистам, которые только-только вышли из институтов, уже сложно искать работу, и, видимо, будет ещё сложнее. Хотя это зависит от страны: в Дании, например, не видно такого яркого эффекта, как в США.
Востребованность разных навыков смещается в сторону умения решать сложные задачи и креативности от более “базовых” навыков вроде документации и дизайна.

В отчёте о безопасности ИИ за 2026 год — “International AI Safety Report 2026” — влиянию ИИ на рынок труда посвящён небольшой подраздел 2.3.1. Labour market impacts (“Влияние на рынок труда”, стр. 84). Там ещё много полезного, но нам сегодня интересны именно эти несколько страниц.

Их авторы тоже говорят, что предсказать, как именно ИИ повлияет на рынок труда, сложно. 60% профессий в развитых экономиках и 40% в развивающихся так или иначе подвержены влиянию генеративного ИИ, но в какой степени — чёрт его знает. В разных странах, профессиях, секторах экономики и для разных задач влияние ИИ разное.

На рисунке ниже показано проникновение ИИ в человеческую жизнь в разных странах. Видите Россию? Она в группе “менее 10% людей используют инструменты на основе ИИ”.

Здесь мы остановимся ненадолго, потому что оценки основаны на данных, которые собраны с пользователей Microsoft Windows. Методика оценки надёжная, однако её авторы отмечают, что по России, Ирану и части Китая данных очень мало, поэтому результаты могут быть занижены.

Я нашла статью “Сколько людей в России пользуются искусственным интеллектом”, автор которой использует данные опросов ВЦИОМ и некоторых других исследований и оценивает долю проникновения ИИ в России в 30-40%. Правда, он берёт в чистом виде долю пользователей любых устройств, в то время как Microsoft используют данные пользователей только компьютеров и планшетов и только с операционной системой Windows. Они в расчётах делают поправку на то, что кто-то пользуется ИИ только или преимущественно с телефона, а у кого-то Макбук.

В результате прям наносить на эту же карту 30-40% будет не совсем правильно из-за разных подходов к оценке, однако мне эта цифра видится более близкой к реальности.

В том же отчёте по безопасности пишут, что прирост продуктивности от использования ИИ в разных профессиях и условиях составляет 15–30%. Как рост продуктивности влияет на зарплаты и возможность найти работу? Да по-разному опять. Эксперты спорят. Ничего не понятно.

Что всё это значит для нас?

“Меня заменит ИИ” — не пустой страх, у него есть основания из реальной жизни. Учитывая всё, что происходит в России, однако, он едва ли будет вашей главной проблемой.

РБК вот пишут, что внедрение ИИ изменит работу для 7,5% людей — это они со слов представителей Минтруда. Насколько эта цифра привязана к реальности, одному Богу известно.

Но я всё равно считаю, что поглядывать по сторонам и примерять на себя то, что в остальном мире происходит (в разных его частях), небесполезно: весь Пиздец когда-то закончится. Начнётся следующий. Мы хоть подготовимся.

P.S.: Если вы досюда дочитали, позвольте порекомендовать вам мой телеграм. Сюда я по воскресеньям посты выкладываю, а туда ещё и по четвергам.

ИИ меняет нашу речь

2026-09-06T10:14:35.720Z

Вся лента в соцсетях забита раздражающе однообразными текстами, которые либо написаны ИИ, либо отредактированы ИИ.

Строго говоря, нет ничего плохого, если автор сам придумал идею, сгенерировал текст и проверил потом. Но в этих текстах подчас стёрто всё личное и человеческое, и это проблема большая, чем может показаться.

Об этом статья «The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models» («Сужающийся ландшафт лингвистического разнообразия в эпоху больших языковых моделей»), которую я предлагаю нам сегодня обсудить.

Быть может, я просто сноб.

Но, возможно, тексты от языковых моделей так раздражают, потому что живая речь передаёт куда больше, чем просто идеи и знания. То, как мы говорим и пишем, выдаёт наш опыт, эмоциональное состояние, социальный статус и много чего ещё. Много чего такого, что мне самой хотелось бы знать о человеке, которого я читаю.

Авторы статьи провели три исследования:

первое проверяет, связан ли рост популярности языковых моделей со стиранием индивидуальности письма (на материале художественных текстов, новостных статей и аннотаций к научным работам);
второе оценивает, как стирание индивидуальности меняет встроенные в язык сигналы, которые раскрывают личность автора;
третье анализирует связи между языковыми признаками и чертами личности авторов, а потом показывает, как именно редактура языковой моделью эти связи меняет.

Ниже график из первого исследования. Красная линия — использование ИИ для написания текстов, синяя — разнообразие языка. Использование ИИ растёт — разнообразие падает.

Авторы отдельно поэкспериментировали с текстами, которые были с нуля написаны людьми: отредактировали их языковыми моделями и посмотрели, меняются ли смысл и лингвистическое разнообразие. Получили: что смысл сохранился хорошо, а вот разнообразие заметно упало.

И не только: черты личности, которые опознаются по тексту (склонность к эмпатии, моральные установки, политические взгляды и так далее), тоже здорово истёрлись. После редактирования языковыми моделями все тексты стали выглядеть так, как будто их писал пожилой мужчина с невысокой эмпатией и либеральными политическими взглядами (хотя изначально их писали очень разные люди).

Ничего принципиально ужасного нет в текстах, написанных пожилыми либералами, однако же, как мне кажется, большинству читателей хотелось бы знать, кто на самом деле автор и каков он как личность.

Справедливости ради, маркеры личности в текстах стёрлись и заменились не полностью. Определяли это так: авторы исследования с помощью классификаторов сгруппировали человеческие тексты по разным чертам личности (склонен / не склонен к эмпатии; ценит верность в отношениях / склонен к изменам и так далее), потом отредактировали эти тексты языковыми моделями и запустили классификацию снова. Точность классификаторов упала, а результаты сместились в сторону определённого типа личности.

Есть люди, которые изучают происходящее в обществе, анализируя тексты из соцсетей — социолингвисты. Посты, написанные или отредактированные ИИ, здорово осложняют им работу.

Вот эта таблица из исследования кажется мне особенно интересной. Галочка (✓) означает наличие сильной корреляции, крестик (✗) – слабой.

Например, в текстах, написанных людьми, экстраверсия (EXT) коррелирует с использованием местоимений, а редактура языковой моделью эту корреляцию убирает. Она убирает или ослабляет многие другие корреляции — именно поэтому, как предполагают авторы статьи, и упала точность классификаторов.

Социолингвистам, которые опирались в своём анализе на давно выведенные корреляции, придётся быть аккуратнее с текстами, которые сгенерированы или отредактированы ИИ. Хорошая новость в том, что многие важные маркеры остались на месте. Не очень хорошая — в том, что многие маркеры после редактуры ИИ стёрлись.

Следующий разумный вопрос — могут ли сгенерированные или отредактированные языковыми моделями тексты повлиять на то, как мы говорим и пишем в обычной жизни? Авторы статьи, которую мы только что обсудили, считают, что да. Я тоже так думаю, особенно если речь идёт о говорении и письме на неродном языке. Но этот вопрос требует более тщательного и продуманного ответа, так что как-нибудь посвящу ему отдельный пост с обзором разных исследований.

P.S.: Этот текст я написала на английском языке, потом перевела на русский с использованием Opus 5 и отредактировала. Для сравнения, вот этот пост я писала с нуля по-русски. Вы видите разницу в стиле? Мне кажется, я вижу.

Оригинал сегодняшнего поста выложила здесь.

Дружелюбный ИИ, часть 3

2026-08-19T07:42:54.272Z

Это третья часть большого разбора большой работы “Creating Friendly AI 1.0” (“Создаём дружелюбный ИИ 1.0”). Вторая часть здесь. Если вы её пропустили, заходите почитать. Вкратце, там про то, что мы думаем об ИИ, способном ставить цели, но сами не то чтобы очень способны ставить цели. Или описать, что значит “ставить цели”.

В этой же части поговорим о том, что люди естественным образом склонны всё вокруг себя очеловечивать, и о том, как эта особенность нашего мышления влияет на наше отношение к ИИ.

Ключевая мысль в том, что мы привыкли искать у ИИ признаки сознания, которые были бы характерны для человека. Но были бы они характерны для ИИ?

Тут напрашивается длинная философская дискуссия на тему “что есть сознание”, но мы будем её сегодня игнорировать. Если вам захочется философской дискуссии, можете почитать мой пост о том: что есть “интеллект”. Можете и в комментариях дискуссию развернуть, кто же вас остановит.

Возьмём, к примеру, самосознание. Для людей это нечто само собой разумеющееся. Мы начинаем узнавать себя в зеркале между полутора и двумя годами. Мы понимаем, где заканчиваемся “мы” и начинается окружающий мир. И мы понимаем (иногда ошибочно), когда другой человек желает “нам” помочь или навредить.

Всё то же самое голливудские сценаристы* переносят в неизменном виде на Высокоразвитый ИИ Будущего.

Вот есть Терминатор, у него есть некая цель, и он знает, что если человек наставляет на Терминатора пистолет, человек хочет сделать Терминатору больно.

Или есть менее человекоподобный Авто из мультфильма про Валл-И (тот, который штурвал с красным глазом, помните?). Он как будто не имеет собственных целей, только следует инструкции, однако же может уворачиваться от полных ручек капитана, чтоб избежать отключения.

А если мы возьмём какое-нибудь приложение на компьютере? Скажем, какой-нибудь чат-бот. И представим себе на минуту, что он взял и преисполнился в сознании, и теперь полностью разумен, что бы это ни значило. У него где границы собственного “Я”?

Понимание собственного “Я” сформировалось у людей в ходе эволюции, как и многие другие штуки, для нас совершенно обыденные. Например, у нас сформировались физиологические реакции на стресс, которые вызывают определённое поведение.

Юдковский приводит такой мысленный эксперимент: если человека ударить, у него поднимется артериальное давление, участится сердцебиение, и он даст сдачи. Или заплачет, или убежит, или заорёт матом на нападающего. Иногда он, возможно, остолбенеет. В любом случае, он выдаст какую-то реакцию, значимая часть которой определена его физиологическими особенностями (и какая-то часть — культурой).

У ИИ же нет никаких физиологических особенностей. Так с чего бы нам ожидать, что он даст сдачи, заплачет, убежит, заорёт и так далее?

Сейчас можно себе представить, что философская дискуссия упорно лезет наружу из тяжёлого деревянного сундука с резными узорами. Я сижу на крышке и делаю вид, что ничего не происходит.

И в этот момент мой внутренний мир вращается вокруг меня, потому что я ощущаю своё тело, и слышу свои мысли, и чувствую свои эмоции, и никак иначе не могу воспринимать ни мой внутренний мир, ни мир окружающий.

Потрудившись, я могу представить, что вы думаете и чувствуете, читая вот эту мою писанину. Могу даже представить, что вы сидите на стуле. Могу пофантазировать, что сиденье жестковато и что у вас затекла спина, но вы не находите в себе сил встать или поменять положение. Может быть, уже вечер, вы закончили ужинать, у вас за спиной в раковине лежит грязная посуда, и вы копите энергию, чтобы встать и помыть её, наконец.

Но все эти мысленные образы я могу лишь извлечь из фрагментов собственного опыта, потому что другого у меня нет и взять неоткуда.

У ИИ же нет никакого собственного опыта: он обучен на данных из внешнего мира, которые описывают чужой опыт. Как могла бы выглядеть его картина мира в таком случае?

Здесь я падаю с сундука.

* Не только голливудские сценаристы, просто я решила, что сегодня пускай они за всех отдуваются. Вот в этом посте я писала про статью о том, кто формирует наши представления об ИИ. И там были голливудские сценаристы (в том числе)

Предсказания для стартапов от ИИ

2026-08-16T08:55:17.612Z

Обсудим сегодня одну любопытную работу: там взяли данные по стартапам, взяли случайный лес и обучили его предсказывать для стартапов успешность. И он справился лучше нейросетей.

Там разные нюансы, я обо всех написала дальше. Но работа интересная, и не в последнюю очередь именно тем, что авторы не пихают большие и сложные модели куда не надо, а выбирают небольшие (ну, относительно) и понятные.

И про это тоже скажем пару слов.

#ИИ #стартапы

Статья называется «Startup Sustainability Forecasting with Artificial Intelligence» («Прогнозирование устойчивости стартапов с помощью искусственного интеллекта»), она опубликована в октябре 2024 года.

О чём работа

Авторы решали три задачи.

Во-первых, они выбрали четыре организации, которые занимаются финансированием стартапов и как раз оценивают, перспективен стартап или нет. Авторы узнавали, хотят ли эксперты вообще использовать в своей работе ИИ, для чего, и что именно им нужно предсказывать. Двенадцать вопросов, четыре аналитика.

Это греческая, кстати, работа, и все компании греческие. Авторы говорят, что их результаты можно приложить к любым европейским стартапам, но мы всё равно будем относиться к ним с некоторой осторожностью.

Во-вторых, они составили систему, которая принимает на вход бизнес-планы, сайты стартапов и посты их представителей в соцсетях, финансовые отчёты и психологический портрет основателей, а на выходе предсказывает, какую оценку стартапу даст эксперт.

Про психологический интересное рассказали: оказывается, для анализа личностных качеств сотрудников и основателей компаний можно использовать игры типа “побег из комнаты”.

Логика вот в чём: если дать человеку анкету, он там будет стараться выбирать “правильные” ответы. А если посадить его играть в игру, он будет стараться выиграть, а вы будете смотреть, как именно, и получите честные ответы.

“Побег из комнаты” — один из моих любимых видов головоломок. Есть, собственно, комната, и вам надо из неё выбраться, а ключ где-то спрятан. И вы должны всё обыскать, решить головоломки и найти ключ. Лучшая игра этого жанра — The Room от Fireproof Games. Там четыре серии, первая вышла в 2012 году. Лучше с тех пор ничего не придумали, отвечаю. Если вдруг любите головоломки и искали, во что поиграть, — вот.

И на работе можно сыграть! Там в начале статьи авторы ссылаются на разные исследования, которые показывают эффективность этого типа игр для оценки сотрудников. Начальству можно показать и сказать, что вы вообще-то научные эксперименты проводите на благо компании.

Так, о чём это я?

О статье.

Значит, в-третьих, авторы собрали данные по 44 греческим стартапам и прогнали на них семь разных моделей машинного обучения.

И вот про этот последний пункт поговорим поподробнее.

Случайный лес круче нейросети (в данном случае)

Про случайный лес я писала подробный пост. Можете его прочитать сначала, чтобы понимать, о чём речь, а потом вернуться сюда.

Авторы взяли семь разных моделей, в том числе дерево решений, случайный лес и неназванную нейросеть. Они вообще мало раскрыли технических подробностей, так что воспроизвести эксперимент не получится. Будем иметь это в виду и относиться к результатам вдвойне аккуратно.

В результате меньше всего ошибок сделал случайный лес. Нейросеть отработала заметно хуже, а хуже неё только линейная регрессия — модель, которая выстраивает прямую линию по всем точкам набора данных. Я подробно про неё рассказывала вот в этом видео.

То, что случайный лес сработал лучше, очень логично, на самом деле: если данных мало, вам нужна модель поменьше. Представьте себе, что все наши данные можно уложить в двумерное пространство. Допустим, если нарисовать их на графике, они выглядят как треугольник. А мы взяли модель, которая строит трёхмерные фигуры, и получили пирамидку. А откуда она достроила недостающие грани, которых в данных не было?

И главное: мы же обучаем модель не чтобы она показала, как выглядят наши данные. Нам нужно с использованием её для новых данных получить результат. Положим, мы ей хотим дать две точки и получить третью, чтобы треугольник получился такой же, как в наших обучающих данных. А она пирамидки рисует — это же бесполезно.

Более того, в опросах эксперты, которые стартапы оценивают, сказали, что готовы пожертвовать точностью ради понятности, а случайный лес как раз очень понятный.

Вот поэтому не везде нужны сложные нейросети и не везде они будут эффективны.

Что в итоге

Поскольку модели обучали на оценках экспертов, а не реальных рыночных результатах, использовать её для оценки своего стартапа бессмысленно.

Но, как это часто бывает, подход всё равно интересный. Нужно только взять базу данных побольше и с реальными данными по успешности стартапа: закрылся, окупился, был поглощён более крупной компанией и так далее. Такие есть: например, Dealroom или Kauffman Firm Survey.

И попробовать обучить свой случайный лес: он здесь подходит как родной.

И ещё: эксперты хотели больше прозрачности, помните? Готовы были пожертвовать качеством, лишь бы понимать, что происходит под капотом.

Это важно, мне кажется, если вы делаете какой-нибудь продукт на основе ИИ. Важно спросить потенциальных пользователей: они хотят самую крутую модель или понятную модель, предсказания которой легко объяснить?

Что есть талант

2026-08-09T09:30:02.253Z

Мы привыкли говорить, что кто-то в чём-то «одарён». И как-то привыкли верить, что некоторым людям некоторые вещи даются легко. Естественным образом. Возможно, это совершенно безобидное убеждение.

Но есть и обратная сторона: иногда мы верим, что определённые вещи нам «не даны». «Да мне медведь на ухо наступил» или «Математика не мой конёк». Мы пробуем раз, другой, десятый, и в итоге решаем, что у нас просто таланта нет. Возможно, это уже не безобидно. Как минимум, это нас ограничивает.

Я недавно дочитала книгу «Как мы учимся» Станисласа Деана, и в одной из глав профессор Деан вскользь говорит о талантах и о том, что думают о них когнитивные науки. Я вдохновилась и теперь хочу копнуть поглубже, а вы можете ко мне присоединиться.

#наука #талант #мозг

Спор «природа или среда» (nature vs nurture) идёт столетиями. Некоторые весьма именитые учёные утверждали, что дети рождаются с абсолютно чистым мозгом, а дальше среда лепит из них тех, кем они становятся. Другие считали, что каждый новый мозг приходит в мир с уже предустановленным набором знаний.

Профессор Деан, которого я тут цитирую, показывает в своей книге, что дети не рождаются ни как чистый лист, ни как заранее запрограммированный биоробот. У всех нас, скорее всего, есть некоторые предустановленные настройки — определённые структуры мозга, выстроенные эволюцией нашего вида. А ещё у нас есть индивидуальные особенности, из-за которых мы осваиваем тот или иной навык чуть быстрее или чуть медленнее.

Книга вышла в 2018 году, поэтому сперва давайте посмотрим, что появилось по теме с тех пор.

Что нового

Работ было много, и я тут не претендую на исчерпывающий научный обзор, с вашего позволения. Я подсвечу пару находок, которые мне запомнились, а вы отнеситесь ко всему написанному немного скептически.

Кроме того, слишком многие статьи попросту закрыты пейволлом, а я могу пользоваться только теми, что есть в открытом доступе, так что картина выходит неполная.

Всё, хватит дисклеймеров, переходим к статьям.

В работе «Innate connectivity patterns drive the development of the visual word form area» («Врождённые паттерны связности определяют развитие зоны визуального представления слова») авторы анализируют мозг новорождённых. Они обнаруживают, что две нейронные сети тесно связаны между собой:

та, что позже будет строить визуальные представления слов,
и языковая.

Что важнее, первая сеть связана со второй сильнее, чем с соседними сетями, которые физически расположены ближе. Эта связность оказывается важной позже, когда дети начинают учить слова. То есть, обучения ещё нет, а структуры уже есть, и это аргумент в пользу предположений проф. Деана.

Почему мозг устроен именно так, впрочем, до сих пор неясно.

Ещё есть работа «Face detection mechanisms: Nature vs. nurture» («Механизмы обнаружения лиц: природа или среда»), где авторы описывают противоречие между результатами нескольких экспериментов, связанных с распознаванием лиц.

С одной стороны, множество экспериментов показало, что новорождённые человечки и некоторые другие животные демонстрируют раннюю способность к выделению лиц из общего фона (они смотрят на лица дольше и поворачиваются к ним быстрее, чем к другим объектам). С другой стороны, некоторые (закрытые пейволлом) исследования показывают, что если взять детёныша обезьяны и поместить его в среду, где лиц нет вообще, такого предпочтения у него не разовьётся.

Так врождённая это способность или нет? Однозначного ответа тут пока не нашлось, но есть гипотезы:

новорождённые, возможно, распознают лица или похожие на лица структуры с помощью немного другого механизма, чем взрослые;
обнаружение лица (face detection) и распознавание лица (face recognition) могут быть двумя разными функциями, и у новорождённых есть только первая, а вторая развивается позже;
исходный механизм может реагировать не на лица, а на определённые геометрические конфигурации, напоминающие два глаза и рот, — это ускоряет развитие распознавания лиц, но само по себе распознаванием ещё не является;
результаты получены на разных видах и разными методами регистрации нейронной активности, так что они могут быть несопоставимы без какой-то предварительной нормализации данных.

То есть, в целом консенсус такой: существуют некоторые предопределённые контуры, которые служат фундаментом для дальнейшего развития мозга. Как они сформировались, пока непонятно.

Отдельно стоит отметить вот что: эксперименты в духе «природа или среда» невероятно сложно спроектировать, корректно провести и добросовестно объяснить, потому что искажающих факторов (confounders) там всегда вагон и маленькая тележка, и о некоторых мы пока даже не подозреваем.

Есть, например, проект ManyBabies. Идея следующая: исследователи берут много младенцев и показывают им маленькие сценки с тремя объектами, которые могут быть просто маленькими кружочками и треугольничками. У одного объекта «есть цель», второй ему «помогает», а третий «мешает». Затем исследователи фиксируют реакции младенцев, чтобы понять, кого те предпочитают: «помощника» или «вредителя».

Сначала казалось, что младенцы предпочитают «помощника». Потом эксперимент не воспроизвёлся. Потом воспроизвёлся. Потом снова нет. В смысле, попыток воспроизвести эксперимент было несколько, часть удачных, часть нет. В итоге самая близкая к оригиналу попытка, проведённая той же командой, которая эксперимент придумала, не воспроизвелась.

Так есть ли у младенцев встроенное представление о социально приемлемом поведении?

Теперь к таланту

Знаю, я обещала поговорить о таланте, мы уже на середине поста, а я его даже не упомянула. Сейчас всё объясню.

Описанное выше было нужно, чтобы показать: изучать мозг сложно, потому что мозг сложен до неприличия. И теперь мы можем перейти к талантам.

В работе «Recent discoveries on the acquisition of the highest levels of human performance» («Новые открытия о том, как получаются величайшие человеческие достижения») исследователи изучили разные области: спорт, науку, искусство, — чтобы понять, становятся ли дети с выдающимися способностями в какой-то области выдающимися взрослыми в ней же.

Вот график, который они построили. На нём показано, что уровень достижений (performance) у одарённых детей сначала существенно выше, чем у сверстников, а потом выходит на плато (это пунктирная синяя линия); а уровень “обычных” детей (жёлтая линия) постепенно растёт, и с возрастом начинает превышать уровень вундеркиндов.

И ещё один. Авторы взяли разные дисциплины: спорт (A), шахматы (B) и науку (C) — и посмотрели, кто был крутышкой в детстве, а кто в страшем возрасте. То есть, взяли сначала юношеские соревнования, а через энное количество лет — взрослые. Синим показана доля совпадений: кто выделялся в юности, тот выделяется и в зрелости. Жёлтым показана доля изменений.
Грубо говоря, в топ-10 бегунов от 10 до 15 лет были одни люди, а через 20 лет только двое остались в топ-10, а на место остальных пришли те, кто раньше был за пределами рейтинга.

В сегменте D графика показано, как выдающиеся умственные способности в раннем детстве связаны с высокими зарплатами во взрослом возрасте. Синим опять показаны те, кто показывал выдающиеся результаты и в юности, и в зрелом возрасте, жёлтым — те, кто в юности не выделялся, но позднее стал очень хорошо зарабатывать.

Судя по всему, выдающиеся результаты в раннем возрасте — не лучший предиктор будущего успеха. Почему именно так получается, сказать трудно, но авторы предлагают несколько гипотез:

подавляющее большинство людей находят «своё стезю» позже и начинают выдавать выдающиеся результаты, соответственно, тоже позже;
те, кто рано начинает выделяться, сосредотачиваются (или их сосредотачивают окружающие взрослые) на одной конкретной области, тогда как их сверстники набирают знания из разных дисциплин, что в долгосрочной перспективе оказывается продуктивнее;
вундеркинды ломаются под грузом ожиданий, у них выше риск выгореть и потерять себя, потому вся жизнь держится на успехе в одной узкой нише.

Напоминаю: это пока всего лишь гипотезы.

Кстати о выгорании: авторы работы «Genetic associations between non-cognitive skills and academic achievement over development» («Генетические связи между некогнитивными навыками и академической успеваемостью») пришли к выводу, что эмоциональная стабильность, саморегуляция и мотивация играют решающую роль в академических успехах. То есть дело не столько в том, чтобы «быть умным», сколько в том, чтобы «быть дисциплинированным, мотивированным и психически устойчивым».

И тут есть большая генетическая составляющая. У талантов и склонностей к определённым областям тоже есть существенная генетическая составляющая. Хотя единственного «гена таланта» не существует (во всяком случае, для музыкального таланта точно), наследственность всё же играет важную роль.

Значит ли это, что талант — вещь чисто генетическая?

Да, но есть одно “но”: но есть ещё и среда.

В работе «Continuity of Genetic and Environmental Influences on Cognition across the Life Span: A Meta-Analysis of Longitudinal Twin and Adoption Studies» («Устойчивость генетических и средовых влияний на когнитивные способности на протяжении жизни: метаанализ лонгитюдных близнецовых исследований и исследований усыновлённых детей») авторы разбирают множество близнецовых исследований и показывают, что дело в комбинации генетической предрасположенности и влияния среды. У людей есть определённые предрасположенности, но именно среда решает, будут они задействованы или нет.

Например, представьте себе человека с сильной предрасположенностью к игре в футбол, который живёт там, где нет ни полей, ни мячей. Пример нереалистичный по двум причинам:

предрасположенности именно к футболу, скорее всего, не бывает — предрасположенности, скорее всего, более общие;
люди умудряются играть в футбол даже в Антарктиде.

Но вы меня поняли: этот воображаемый человек не сможет реализовать свой талант, если не переедет куда-нибудь, где поля и мячи есть. И если ему кто-нибудь не предложит сыграть.

Кроме того, эффекты нестабильны на протяжении жизни: гены, которые важнее всего в младенчестве, не те же самые, что важнее всего во взрослом возрасте.

Так какой вывод

Подытожим, что мы выяснили:

выдающиеся результаты в чём-либо в детстве (или их отсутствие) не позволяют надёжно предсказать будущий успех (или его отсутствие);
как минимум часть того, что мы называем «талантом», действительно обусловлена генетически, но нет конкретного гена, который можно было бы найти и по нему предсказать талант (и даже набора генов нет, по которому можно было бы что-то предсказать);
среда всё равно определяет, сумеем ли мы найти то, к чему у нас есть талант.

Генетика, вероятно, задаёт, на что мы обращаем внимание, на что реагируем и от чего способны прийти в восторг. Среда даёт нам разные стимулы, на которые можно реагировать, обращать внимание и от которых можно приходить в восторг. И слишком уж много тут неочевидных факторов, чтобы можно было предсказать чей-то индивидуальный успех или его пределы.

Ну что ж, и на том спасибо.

P.S.: У меня ещё есть телеграм, на который можно подписаться. Не могу найти в себе талантов и пообещать вам что-нибудь выдающееся, но регулярные посты на разные интересные темы могу обещать

Миф о многозадачности

2026-08-05T06:19:47.796Z

Я сейчас перед сном читаю книгу Станисласа Деана “Как мы учимся”. Хорошая книга.

Там есть раздел про внимание, и в нём автор рассказывает, почему мы не можем эффективно выполнять несколько дел одновременно: мозг физически может удерживать внимание только на одной задаче за раз. Если вы делаете два дела параллельно, он скачет между ними, и вам может казаться, что вы ничего не теряете, но на деле в течение коротких промежутков времени мозг оказывается слеп то к одной задаче, то к другой.

Поэтому, например, нельзя набирать сообщения за рулём. Можно слушать подкаст и мыть посуду — то есть, делать два дела, из которых одно у вас доведено до автоматизма. Да и то иногда заклинивает: смотришь на ложку и думаешь: “А я её уже намылила и ополоснула или только собиралась намылить?”

Мне вот эта мысль откликается: я сама пару раз уже точно писала о том, что не надо пытаться делать несколько дел разом, даже если вы обложились ИИ-агентами, и они всё типа “делают за вас”. Вам же перечитать потом надо, и перечитать внимательно.

Но, если всё вокруг вдруг подтверждает нашу точку зрения, нам надлежит немедленно в ней усомниться и искать опровержений — научный метод. Вот я и пошла.

#многозадачность #эффективность #внимание

Что обнаружилось

Между кучей “купи наше приложение и делай пять дел одновременно!” и “многозадачности не существует” нашлось некоторое количество работ, с которыми я намереваюсь вас познакомить, потому что они показывают интересные вещи. И применимые вещи, что важно.

Во-первых, с сообщениями за рулём всё однозначно: нельзя. Авторы работы “A meta-analysis of the effects of texting on driving” (“Мета-анализ эффектов переписки за рулём”) собрали 28 исследований про переписки за рулём. Никто, разумеется, в процессе этих исследований не требовал испытуемых выезжать в город с телефоном в руках — использовали либо симулятор, либо закрытые треки, на которых можно было ехать и не убиться. Замеряли движения глаз, скорость реакции, скорость и направление движения и другие показатели.

Водители, которые читали и / или набирали сообщения, медленнее реагировали на угрозы, чаще пропускали потенциальные проблемы и хуже контролировали автомобиль. В результате они попадали в большее количество аварий. На дороге, в плотном потоке машин и на большой скорости достаточно отвлечься всего на пару секунд, чтобы попасть в неприятности, так что тут без вопросов.

А что насчёт ситуаций, которые не угрожают вашей жизни? Скажем, можно ли одновременно составлять повестку совещания, читать сообщения в рабочем чате с новыми вводными и генерировать код с использованием ИИ?

Очевидно, что одновременно вы это никак не сделаете: можно вводить только один текст в одно текстовое окошко за раз. Но можно запустить ИИ на генерацию кода, начать собирать повестку, открыть рядом мессенджер и мельком туда поглядывать. Что тогда?

По популярной литературе разошлась фраза “После отвлечения сотруднику нужно 23 минуты, чтобы вернуться к прерванной задаче”. И вот это уже некорректная трактовка, и тут всё не так очевидно.

Похоже, сама цифра пошла из интервью Глории Марк (Gloria Mark) журналу Gallup. Она там рассказывает об исследовании, в котором она и её команда три дня наблюдали за работой 36 человек: менеджеров, финансовых аналитиков, инженеров и руководителей проекта. Прям ходили за ними с таймерами и засекали, сколько времени человек успевает провести за одной задачей, пока у него не зазвонит телефон, к нему не подойдёт коллега или он сам не отвлечётся на что-нибудь.

Оказалось, в среднем три минуты пять секунд, если не считать совещания. Совещания не считали, потому что на них все вынуждены сидеть и кивать, ни на что не отвлекаясь. Ну, примем это утверждение.

И в том интервью она как раз сказала, что в среднем люди возвращаются к прерванной задаче через 23 минуты 15 секунд, но это время включает в себя решение тех задач, на которые они отвлеклись. То есть, это не время, которое нужно на восстановление фокуса.

В своих исследованиях Глория Марк и коллеги неожиданно выяснили, что работу, которую без конца прерывают, люди заканчивают быстрее. Про это написано в их статье “The Cost of Interrupted Work: More Speed and Stress” (“Цена прерванной работы: выше скорость, больше стресса”). Исследователи предположили, что сотрудники, зная , что их отвлекут, стараются ускориться, чтобы не сорвать сроки.

На бумаге вроде выглядит хорошо: быстрее же закончили! Вопрос в том, какой ценой. В эксперименте люди демонстрировали повышенный уровень стресса уже через 20 минут с начала работы над задачей.

А если люди в стрессе — это я уже от себя добавляю, — они чаще делают ошибки. Результат оказывается хуже, чем мог бы быть, если бы им дали сосредоточиться.

Конкретно про ИИ обнаружилось не так много работ, и не все их них воспроизвелись.

Например, есть публикация “Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity” (“Измеряем влияние ИИ начала 2025 года на продуктивность опытных разработчиков открытого программного обеспечения”).

Там была совсем маленькая группа испытуемых — 16 человек, — поэтому будем читать результаты аккуратно. Они использовали ИИ, чтобы писать код, и потом сказали, что ощутили ускорение работы на 20%. Исследователи замерили время и обнаружили замедление на 19%. Нужно будет подождать похожих исследований на выборках побольше, чтобы делать выводы, но пока можем сказать, что самооценка собственной скорости — не то, на что стоит полагаться без вопросов.

И что теперь с этим делать

В том интервью, которое мы тут процитировали, Глория Марк рассказала, что для работы над статьёй выделяла себе три часа времени в день. На эти три часа она запиралась в кабинете и работала только над статьёй, и испытывала субъективное счастье.

Похоже, что выделить себе пару часов в день, в которые вы закроетесь в кабинете и будете игнорировать окружающий мир — правда неплохая идея. Есть, например, работа “For whom and under what circumstances does email message batching work?” (“Кому и в каких обстоятельствах подходит чтение сообщений блоками?”), в которой проверили, не лучше ли выделять конкретные часы, в течение которых вы читаете все пришедшие письма и сообщения и отвечаете на них. Оказалось, лучше (чем получать уведомления постоянно).

То есть, выходит, что полезно выделить себе условные три часа, когда вы решаете сложную задачу, потом на полчаса прерваться на сообщения, потом опять выделить фокус-блок на сложную задачу. Ну и про обед не надо забывать, конечно же. Делать перерывы, вставать из-за стола и переключаться полезнее, чем не делать перерывов, не вставать и не переключаться.

Наконец, полезно не переоценивать точность самооценки. Вам кажется, что вы стали работать быстрее? А вы запустите себе таймер и проверьте. Там вот 16 программистов тоже думали, что ух как ускорились.

Заключение

После некоторых раздумий я всё-таки предпочту отказаться от многозадачности. Лучше уж сесть и пару часов спокойно поработать, ни на что не отвлекаясь: без лишнего стресса, без “а на чём я остановилась?” и вот этого всего.

Да, до меня бывает сложно достучаться в течение рабочего дня. Но, во-первых, у моей команды есть красная кнопка призыва меня на экстренный случай; а во-вторых, работа-то сделана. Качественно сделана.

А вы что думаете?

Пока думаете, можете ко мне в телеграм заглянуть. Там есть всякие посты, которых нет тут. Только за рулём не читайте!

Сохранить работу в мире с ИИ

2026-08-02T09:02:52.681Z

Есть такая мрачная шутка: “Жизнь в России — игра на повышенном уровне сложности”. У нас тут регулярно какой-то местный Армагеддон, а в довесок к нему все глобальные экономические пертурбации.

Взять хотя бы рынок труда.

Я работаю в бизнес-консалтинге, например. Тут всё довольно грустно. Надо иметь в запасе ещё какой-нибудь вариант, а поди найди его ещё.

Сложнее, конечно, тем, кто только начинает свой карьерный путь: компаниям бывает проще (или кажется проще) не нанять нового сотрудника на стажёрскую позицию, а вручить более опытному ChatGPT и дополнительные обязанности.

Я ближе скорее к “более опытному”: за плечами девять лет стажа, проекты вела, код писала, заказчикам презентации презентовала. Использую ли я этот пост для саморекламы? Да, использую.

Я вообще училась на менеджера, потом попала в консалтинг и освоила анализ данных. Потом компании потребовался программист, и я научилась писать код. Организовывать совещания. Читать лекции и вести семинары. Те, кому я читала лекции, потом ещё зовут, между прочим. Теперь компании понадобилось больше продвижения, и я изучаю продвижение.

Судя по блогу, пока не очень получается, но я человек упрямый.

Ну да хватит обо мне. Наверное, вы уже поняли, что я безупречный сотрудник, человек-оркестр и образчик скромности к тому же. И таких людей много, и они теряют или не могут найти работу.

#ии #работа

Что же делать?

На эту тему уже есть некоторое количество исследований. Точнее, есть исследования о том, что люди делают, но там обычно не написано, что помогает: просто наблюдения недостаточно длительные пока.

Ещё они проводятся на небольших группах людей, только в некоторых странах и на небольшом наборе профессий, поэтому распространять все выводы на себя будет опрометчиво, но можно найти несколько точек опоры для создания собственной стратегии.

Я тут не буду рассматривать стратегию “отрицать ИИ, ждать его исчезновения”, потому что не думаю, что она строится на надёжном основании.

Какие есть варианты

Авторы статьи “AI Rivalry as a Craft: How Resisting and Embracing Generative AI Are Reshaping the Writing Profession” (“Соперничество с ИИ как искусство: как противостояние или принятие ИИ меняют писательскую профессию”) провели 25 интервью с людьми, которые зарабатывают творческим письмом (25 — это мало, но исследование не количественное, а качественное, поэтому нормально).

В “творческое письмо” в рамках этой работы входит создание контента для соцсетей, написание книг и сценариев, даже написание технической документации и заявок на гранты. Как человек, писавший заявки на гранты, подтверждаю: это требует творческого подхода.

Те писатели, которые противостоят ИИ, стараются больше внимания уделять личному общению с потенциальными клиентами и работодателями, созданию профессиональной сети контактов и тщательной подготовке своих профилей в соцсетях — всёдля привлечения людей. Они делают ставку на то, чтобы понравиться потенциальным клиентам, которые захотят заказать не просто хороший текст, а именно их текст. Некоторым использование ИИ навязала компания, и это вызвало сопротивление.

Такие авторы также работают над развитием своих навыков, чтобы их работы выделялись на фоне однообразного контента, сгенерированного ИИ. Одна из стратегий — выбрать себе узкую целевую группу и писать тексты, очень личные для неё. ИИ с таким пока плохо справляется, потому что узкие группы хуже представлены в тренировочных данных.

Те, кто приветствует ИИ, часто используют его для создания отправной точки. Например, есть такая штука — страх чистого листа. Это когда сидишь перед чистым листом и ничего не пишется, потому что ничто не кажется достаточно хорошим для начала. У меня такого нет.

В общем, ИИ с этим помогает: пишет какой-то базовый черновик, автор начинает править, появляется вдохновение — процесс пошёл. Хоть я и не страдаю боязнью чистых листов, но в качестве упражнения иногда сама такое использую. Всё начинается с замены пары слов на более подходящие, а потом раз — и вышел совсем новый текст. Так иногда получается победить дни прокрастинации.

Ещё ИИ помогает перебрать несколько вариантов и посмотреть, что работает. Ещё некоторые авторы закидывают в него поток своих мыслей, чтобы получить структуру и выделить основные направления, куда мысли расползаются. Я такое тоже люблю: иногда уже в процессе записи приходит озарение (что-то типа: “А не послать ли всё к чёрту и не сварить ли мне чечевицы?”). В разработке кода это называется “метод резиновой уточки”. Суть метода в том, что, пока вы излагаете проблему вслух (пусть даже резиновой уточке), до вас доходит, как её решить.

Наконец, авторы, которые приветствуют, ИИ, охотно делегируют ему скучную рутинную работу.

Вам не кажется, что стратегии из пула “противостояние” можно совмещать со стратегиями из пула “приветствование”? Мне кажется, можно.

Авторы также отметили, что у многих опрошенных расширился круг должностных обязанностей: он поглотил смежные области, потому что с использованием ИИ что-то проще сделать самому, чем искать нужного человека. Или кажется, что проще сделать самому. Такое наблюдается не только у писателей, и я об этом рассказывала тут. Парадокс Джевонса, если вы понимаете, о чём я.

Вообще если искать, как люди подстраиваются под новую рабочую реальность, часто попадается термин “job crafting”. “Craft” — это мастерство (как существительное) или изготовление чего-то с большим мастерством (как глагол). Это освобождение из мрамора статуи, которая там уже есть. “Job crafting” — это искусное и аккуратное вытачивание своей профессии. Огранка. Создание из болванки под названием “моя профессия” фигуры, которую можете создать только вы и за которой можно прийти только к вам.

Помимо оттачивания имеющихся профессиональных навыков и освоения новых, огранка профессии включает и продажу себя как специалиста: поиск заказчиков, установление с ними отношений, демонстрацию своих умений.

Это всё не ново, если подумать. Но, возможно, сейчас оно затрагивает больше людей. Например, есть статья “Generation AI: Job Crafting by Entry-Level Professionals in the Age of Generative AI” (“Поколение ИИ: огранка профессии у начинающих специалистов в век генеративного ИИ”).

Начинающие специалисты — это те, кто только-только выходит на рынок труда. Им предстоит перепрыгнуть очень высокий барьер, на котором написано “требуется опыт работы от…”, что само по себе сложно, а уж с ИИ и подавно.

С другой стороны, у начинающих специалистов нет необходимости переучиваться. Те из них, кого опросили авторы статьи, отмечали также, что к использованию генеративного ИИ привыкли. Они сами иногда применяют его для оттачивания идей и поиска у себя ошибок, если под рукой нет более опытных коллег.

Иногда они сами могут брать на себя роль менторов для старших коллег, которые опытнее в профессии, но менее знакомы с ИИ.

Про разработчиков программного обеспечения (ПО) тоже есть интересная статья — “Generative AI in the Software Engineering Domain: Tensions of Occupational Identity and Patterns of Identity Protection” (“Генеративный ИИ в области разработки ПО: натяжение рабочей идентичности и подходы к её защите”).

Там тоже были глубинные интервью небольшого числа людей, как и в прошлых двух. Большие процессы обычно измеряют количественно — на больших выборках, по которым можно делать выводы для всей популяции. Но когда что-то только начинает происходить, можно использовать глубинные интервью: они помогают поймать слабые сигналы первых изменений, которые затем будут распространяться и проявятся на больших выборках, где их можно будет измерить количественно.

Разработчики в интервью много говорили о том, как важно хорошо разбираться в своей области и хорошо понимать код. Более опытные используют ИИ осторожнее и настроены более скептически, более молодые чаще отдают ему рутинные задачи. И те, и другие, говорят об ограничениях ИИ как инструмента.

Ну и более молодые сотрудники больше переживают за то, что их могут заменить. Кое-где старички расходятся во мнениях с новичками, но все в целом согласны с тем, что человеческое общение, обучение и контроль результатов ИИ — это важно.

Заключение

Я хотела тут ещё написать про разные исследования рынка, но, думаю, пока хватит с нас. В другой раз напишу.

Вы пока можете в мой телеграм заглянуть: там тоже посты про разные интересные исследования и немного — про собственный опыт.

Перешла с ChatGPT на Claude, делюсь впечатлениями

2026-07-26T09:10:33.731Z

Некоторое время назад моя лента в соцсетях наполнилась постами людей, которые перешли с ChatGPT на Claude и остались довольны.

Я довольно консервативна в том, что касается новых инструментов: работает — НЕ ТРОГАЙ. Но в конце концов даже во мне проснулось любопытство, я попробовала Claude AI, и вот описание моего опыта (спойлер: мне понравилось).

Дальше я буду писать “ИИ” или “Claude”, а иметь в виду конкретно модель Claude Opus, как правило в последней версии из доступных.

Субъективно мне кажется, что Opus «умнее» GPT в том смысле, что он точнее следует моим инструкциям и в целом быстрее приходит к нужному решению.

Sonnet туп как табуретка. Fable я пока не пробовала.

Единственное, что меня выводит из себя каждый раз вне зависимости от задачи, так это манера вываливать инструкцию целиком вместо того, чтобы прописывать конкретные шаги по одному. Если я прошу инструкцию, это значит, что я ничего не понимаю, запутаюсь на первом шаге и мне будет нужна инструкция по тому, как вернуть всё взад.

Просьба давать инструкцию ровно на один следующий шаг помогает, но всё равно немного бесит.

Но вообще впечатление скорее положительное, и вот что я с этим инструментом делаю.

1. Поиск источников

Да, можно и погуглить, но Гугл всё-таки требует более-менее структурированного запроса, а мне удобнее написать длинный текст в свободной форме и дать ИИ разбить его на части попроще и поструктурированнее.

Гуглю я, если нужно найти что-то совсем простое типа прогноза погоды в Астане на сегодня, а для более сложных исследовательских вопросов перешла на ИИ.

Ещё он помогает находить открытые версии платных статей, что отдельно потрясающе. Иногда открытые копии существуют в виде авторских рукописей, иногда лежат в университетских репозиториях. Иногда пересказ платной статьи находится внутри другой статьи, с открытым доступом. Искать такое вручную — боль, а ИИ делает это быстро.

Да, я в курсе «серых» способов добраться до нужного текста, но мы сейчас говорим о том, с чем нам ИИ может помочь.

2. Перевод

Я использую Claude AI, чтобы переводить собственные посты и с английского на русский, и с русского на английский, и он справляется неплохо. При разумном количестве примеров («разумное» — это, я бы сказала, от двух до пяти текстов) он довольно неплохо воспроизводит авторский стиль. Я всё равно правлю и дорабатываю все переводы, потому что некоторые вещи нельзя перевести, а можно только адаптировать или вовсе заменить: культурный контекст. Но это всё равно намного быстрее, чем переводить руками.

Ещё я так переводила информационные таблички с узбекского, описание вкуса на банке газировки с польского и интерфейс приложения с китайского. Нормально.

3. Вайбкодинг

Разумеется.

В этом году мне подарили на день рождения рисоварку, и это был тот самый знак, которого я ждала, чтобы начать готовить. Как я жила 29 лет без готовки? Потрясающе.

Но, знаете, всё дорожает, а мне нужен повод встать из-за компьютера и сделать перерыв. Так что я рассказала Claude, что я люблю есть (довольно короткий список) и что не люблю (намного более длинный список), а он собрал микро-приложение, в котором все рецепты размечены тегами, чтобы их можно было фильтровать.

Я подумала: “Точно, приложение!”

И после энного числа итераций получилось кое-что с рецептами, фильтрами, недельными планами питания и автоматическим списком покупок, и мне нравится им пользоваться. Когда я вайбкодю очередную функцию или мелкую правку, использую Cursor и в нём — последнюю версию Opus.

Ещё мы с друзьями вместе делаем приложение для локальной расшифровки аудио. Да, таких полно, но в какой-то момент захотелось своё, чтобы расшифровывать рабочие встречи, не отправляя данные на сторонний сервер. А потом мы подумали, что было бы здорово добавить диаризацию, шумоподавление… ну, вы знаете, как это бывает. Кто-то незнакомый любезно прикрутил веб-интерфейс (это моя любимая часть работы в проектах с открытым исходным кодом).

Я могу продолжать долго, но мой путь от программирования руками к программированию с ИИ, а потом и к вайбкодингу не тема сегодняшнего обсуждения. Но если вам интересно, у меня есть небольшой текст с парой советов для тех, кто начинает вайбкодить с нуля.

4. Дизайн

Я не способна ничего нарисовать, даже если от этого будет зависеть моя жизнь: у меня начисто отсутствует чувство визуальной эстетики. С Claude Design я просто выбираю симпатичную палитру на Pinterest, вручаю ему свой текст и получаю вполне приличные картинки.

Вот пример карточек для Instagram*, которые я сделала к одному из своих постов.

Я всего лишь написала сам пост, выбрала цвета, описала (кратко), чего хочу, чуть-чуть поправила текст в конце, и вот.

Я знаю достаточно прекрасных дизайнеров, чтобы даже своим слепым к любому визуальному искусству мозгом понимать: этот дизайн приличный, но средний. Что человек сделал бы что-то куда более личное, более точное. Если бы у меня были деньги на живого дизайнера, я бы заплатила живому дизайнеру, но для начала и так пойдёт.

5. Рефлексия

Вот этот пункт довольно спорный, но я всё-таки решила его тоже написать, потому что тема интересная.

Иногда, чтобы разобрать бардак в своей голове, я записываю собственные мысли и прошу ИИ позадавать мне вопросы или вернуть мне мои же слова, только иначе сформулированные. Побыть моим мыслительным зеркалом в некотором роде.

И сейчас будет дисклеймер, и он не формальный, и я прошу вас его не пропускать. В этом разделе поста он, пожалуй, важнее всего остального.

Я никогда не обращаюсь к ИИ за эмоциональной поддержкой, хотя соблазн велик. Мои близкие люди в курсе моего состояния и время от времени проверяют, как у меня дела; у меня есть проверенный врач и всё такое.

Я знаю, что многие ментальные проблемы создают чувство изоляции. Ощущение того, что никому вы не нужны, а если и нужны, то никто совершенно точно не сможет вам помочь. Это неправда. Это говорит та вредная штука у вас в голове, которая не желает вам ничего хорошего. Не надо её слушать. Меня послушайте: я знаю её все её грязные приёмы.

В худшие моменты вам может казаться, что вокруг вас непроходимая стена, за которую извне не проникает ни воздух, ни солнечный свет, ни звук, ни добрый взгляд; в лучшие — что вы это всё себе напридумывали и ничего не было. ИИ не обучен смягчать такие качели — он последует за вами и вверх, и вниз, и это только усугубит ваше состояние, и вы будете мотаться в этом бесконечном цикле, пока он вас вконец не измотает.

Так что вот правило, которое нельзя нарушать: «эмоциональная поддержка → люди». Использовать ИИ для саморефлексии время от времени нормально, но только при условии, что у вас есть прочные связи с живыми настоящими людьми, которые удержат вас на земле (и в случае чего пинками загонят к специалисту).

Что мне понравилось в Claude — он обучен или настроен так, чтобы в нужный момент сказать: «Вот вам телефон экстренной помощи в вашей стране, идите к людям, я дальше не могу». Вот это правильно.

Итоги

Список неисчерпывающий, но я постаралась выделить основное. Кроме перечисленных сценариев я использую ИИ, например, чтобы структурировать планы. Я пишу длинную поэму в духе «к среде мне надо вот это доделать, во вторник надо спросить Ивана Иваныча про его задачу, а ещё есть литературный обзор для статьи бла-бла-бла», а он собирает из этого короткий структурированный список с датами.

Точно так же я описываю свои симптомы и получаю чек-лист к приёму у врача, чтобы там ничего не забыть и всё успеть выложить за отведённые двадцать минут. Врачи, кстати, такой подход обычно приветствуют: им нравится, когда вы можете точно сказать, когда у вас что и как болело и какие вы пили таблетки.

Сейчас пришло в голову, что можно в отдельном чатике писать что-то типа “болит голова, слева, боль пульсирует, по шкале ощущений 4 из 10”. А потом перед походом ко врачу попросить превратить этот поток в табличку с датами.

Ещё я ищу книжки, которые читала в детстве и из которых смутно (и неправильно) помню одну-единственную сцену, но мне абсолютно необходимо прочитать это снова.

И задаю вопросы про сложные места в статьях, которые читаю, чтобы разобраться в них как следует.

И рисую своих персонажей для ДнД.

И так далее. В большинстве моих задач Claude AI был по большей части полезен. Самое скучное и рутинное я отдаю ему, а всё интересное делаю сама. Например, этот пост я написала руками с нуля на английском языке. Затем перевела его на русский с помощью Claude AI, вычистила и отредактировала перевод. Потом сгенерировала обложку для LinkedIn и карточки для Instagram*, потому что меня как-то развлекает создание маленьких карточек из больших текстов.

*Instagram принадлежит компании Meta, а Meta признана экстремистской и запрещена в России, как вам уже, безусловно, известно, из десятков, а то и сотен таких дисклеймеров, которые вы видите у себя в ленте каждый чёртов день

Дружелюбный ИИ

2026-07-19T08:35:41.307Z

Есть такая организация — Machine Intelligence Research Institute (MIRI, Институт исследования машинного интеллекта). У этой организации есть много любопытных работ, в основном про ИИ и его влияние на человечество.

Влияние их достаточно велико, их много кто цитирует. Я тоже цитировала и считаю их работу важной, хотя во многом с ними не согласна:

в этом посте рассказала про план MIRI по предотвращению вымирания человечества от чрезмерного развития ИИ;
здесь начала рассказывать про работу “Creating Friendly AI 1.0” (“Создаём дружелюбный ИИ 1.0”), которую (спойлер) мы обсудим и сегодня.

Если всё сложить, ключевые точки несогласия мои с ними следующие:

Они рассматривают всё развитие ИИ в парадигме “США против Китая”. Для американской некоммерческой организации это как будто бы нормально, но в целом это очень узкий взгляд на мир.
Они торгуют страхом, хоть и заявляют рациональный подход. Я не думаю, что разговоры о конце света подтолкнут кого-то к рациональным решениям.
Их картины будущего отражают взгляды сценаристов Голливуда и предпринимателей из Кремниевой долины. Грех ли это? Не грех. Но это снова очень узкий взгляд.

В общем, мне нравится их работы использовать как отправные точки для более глубокой дискуссии.

#ai #friendlyai #ии #дружелюбныйии

В предыдущих сериях

Я начала рассказывать про “Дружелюбный ИИ” вот в этом видео и планировала снять серию, но потом мне стало лень.

Точнее, не то чтобы лень — просто это не совсем мой формат представления информации. Я бы снимала видео совсем редко, когда прям захочется, но строго по расписанию не могу: мне намного больше нравится писать тексты.

Если вам вдруг больше нравится смотреть видео, то можете глянуть: там я читаю главу 2 “Challenges of Friendly AI” (“Вызовы дружелюбного ИИ”) и делюсь мыслями на её счёт.

Если вам больше нравится читать, то ниже я перескажу его содержание, а в следующем разделе поста обсудим третью главу. Работа объёмная, поэтому я её хочу обсуждать по кусочкам.

Итак, во второй главе автор (Элиэйзер Юдковский — Eliezer Yudkowsky; сам по себе человек известный, но сегодня не о нём) сообщает нам, что всё далее написанное относится к такому ИИ, который способен иметь собственные цели и составлять планы для их достижения. Такого ИИ пока нет, но автор хочет подготовиться к проблемам заранее. Понимаемо.

Кроме того, он сообщает, что намеренно представляет самый плохой из всех возможных сценариев будущего. “Когда мы строим мост, — говорит он, — консервативная инженерная оценка состоит в том, что по нему проедет в десять раз больше транспорта, чем мы рассчитываем, и большая его часть будет пятнадцатитонными грузовиками.”

Консервативная инженерная оценка предполагает, что нам лучше сделать запас побольше, чтобы в реальных условиях эксплуатации конструкция точно устояла.

“Вот с ИИ, — говорит он, — та же фигня: наверное, он не уничтожит мир, но нам надо рассчитывать, что уничтожит.”

Это не совсем он говорит, это скорее я интерпретирую. Но близко к тексту!

Можем ли мы спорить с этим подходом? Не буду отвечать за вас — я не могу. Я всегда готова вообразить себе худший сценарий из всех невозможных и ждать конца света. Вопрос, однако же, в том, куда нас это приводит.

Пример с мостом выглядит очевидным: вот мы постарались, построили такой крепкий мост, какой и не нужен был. Кто от этого пострадал? При условии, что мы справедливо заплатили всем участникам строительства, никто.

А когда мы готовимся к восстанию машин, мне кажется, кто-то всё же страдает в процессе.

Скажем, всякие политики любят продвигать страшные истории, чтобы на их фоне что-нибудь запретить. Например, заставить всех ходить в Интернет по паспорту, или запретить читать неодобренные правительством источники, или ещё что-то в этом роде.

У нас вот ведётся активная борьба с Интернет-мошенниками, так? Стало ли меньше мошенников? А возможностей нам с вами жить нормальную жизнь? В общем, мы тут в России можем легко себе представить, до чего можно дойти под лозунгом “Защитим граждан от [восстания машин, вражеской пропаганды, впишите своё, подчеркните нужное]”.

У меня поэтому на подобные лозунги что-то вроде аллергии. Но кто знает, может, это у меня такая душа чувствительная.

Третья глава — про цели

Как бы то ни было, мы говорим про ИИ, который умеет ставить цели и стремиться к их достижению. Что это значит?

Для успешного целеполагания нужно, во-первых, иметь в голове надёжную модель окружающего мира; во-вторых, иметь чёткое представление о желаемом состоянии мира; в-третьих, уметь составить план движения из точки А в точку Б. Очень просто.

На первый взгляд. На второй всё очень запутанно, и мы — в смысле, люди — сами не то чтобы хорошо справляемся с постановкой целей. И не то чтобы на сто процентов понимаем, как конкретно она происходит, и как конкретно запускается механизм достижения, и почему конкретно иногда он не работает или работает не так, как нам бы хотелось.

Вся третья глава рассказывает нам как раз об этом: если некий сгусток слизи в процессе эволюции вдруг приобрёл свойство двигаться, когда вода вокруг нагревается на градус выше оптимальной температуры, это ещё не целеполагание. Нам может со стороны показаться, что сгусток “плывёт туда, где прохладнее”, но на деле происходит химическая реакция, мембрана сгустка сокращается, и это сокращение перемещает его.

Через несколько миллионов лет эволюции появится клетка с хвостиком, которая будет хвостиком крутить и плыть туда, где есть питательные вещества. Вот это уже целеполагание или ещё нет? У клетки пока нет мозгов и, скажем, три хромосомы, и она размножается делением.

Ещё через миллионы лет эволюции появляется рыбка. У рыбки есть мозг и плавники, она плавниками двигает и ищет еду. Целеполагание? То есть, мы понимаем, что она не составляла себе список продуктов и маршрут к нужным местам, но у неё есть картина мира. У неё есть представление о желаемом состоянии мира (много еды, и вся у неё в желудке, и вокруг нет других голодных рыбок)? Мы думаем, что скорее нет.

Про себя мы думаем, что у нас-то настоящее целеполагание:

картина мира есть (пусть и кривая-косая, но не в этом суть);
образ желаемого результата есть (не факт, что мы будем довольны, достигнув его, но это тоже дело десятое);
план есть (ну он есть, правда?).

И вот непонятно, где проводить черту. Похоже, что нет какого-то чёткого перехода между “целеполагания нет” и “целеполагание есть”. Про это много написано научных работ, но конкретно сейчас мы в них не будем погружаться. А потом будем погружаться, конечно же.

Конкретно на сегодня вывод такой: мы хотим думать об ИИ, способном к целеполаганию, но не можем такой ИИ определить.

Такие дела.