50. Влияние ИИ на наш интеллект.
ИИ развивается такими темпами, что за последний год начал вырастать из прикольной игрушки в повседневный инструмент, модели заметно поумнели, а созданного ими контента стало так много, что у людей закономерно появляется беспокойство: если машина все лучше формулирует мысли, объясняет и пишет, то что будет с нашей памятью, вниманием и привычкой думать самостоятельно и не окажемся ли мы в мире, где все звучит уверенно, но непонятно, кем и зачем сказано.
Медиасфера, которая эксплуатирует наши тревоги в хвост и в гриву, почти непрерывно выплескивает страшилки про то, что ИИ лишит всех работы, поработит людей или хотя бы отупит их до животного состояния.
Мой канал не про информационную стерильность, а про гигиену – осмысленное, полезное использование технологий, которые от нас уже никуда не денутся. Вопрос только в том, кто кем будет управлять: мы технологиями или они нами.
Мой друг прислал мне ссылку на исследование MIT, которое, пройдя через эмоциональное усиление медиа, превратилось в короткое «ужас-ужас, из-за ChatGPT мы все очень быстро отупеем». Выглядело это примерно так:
«83,3% респондентов не могли вспомнить ни одно предложение из того, что написала… Связь нейронов снизилась с 79 до 42… После прекращения использования показатели оставались ниже…»
Прочитав такое, как будто даже и обсуждать нечего, надо скорее переслать друзьям: очевидно, что использование ИИ такую расправу учиняет над нашим интеллектом, памятью и мышлением, что аж нейронные связи клочками летят по закоулочкам.
Действительность оказывается и сложнее, и интереснее.
Если убрать то, что текст прилично переврали, – в частности, речь шла не про «не могли вспомнить», а «не могли точно процитировать», и «связи не снизились у одной группы», а сравнивались разные группы, – то прикладной смысл исследования становится понятным: когда инструмент делает за тебя существенную часть мыслительной работы, результат слабее «прикрепляется» к тебе, снижается чувство авторства, и ты реально можешь хуже воспроизводить то, что только что написал, потому что часть процесса была не твоей когнитивной нагрузкой, а работой интерфейса, который выдал готовые формулировки, а ты их одобрил.
Память здесь не ломается, она меняет формат работы, грубо говоря, перестает платить за хранение деталей там, где их можно восстановить из внешнего источника. Наш головной мозг при весе около 2% от массы тела потребляет примерно 20% всей энергии организма, поэтому он любит экономить и включает энергосбережение при любой удобной возможности – это эволюционно сформировавшаяся привычка, а не лень.
Очень похожая история была 15–20 лет назад с повсеместным распространением поисковиков – тот самый «эффект Google», когда запоминание фактов проседает, а запоминание пути к ним растет.
И если рядом появляется помощник, который за секунды выдает связный текст, план, аргументы и даже пару умных слов, мозг радуется, как завхоз, которому списали половину расходов, и начинает использовать помощника как костыль или протез, причем незаметно для себя, потому что субъективно это ощущается как «я просто ускорился».
Проблема в том, что на этом месте начинается не «все тупеют», а гораздо более интересный процесс: расслоение по компетенции. Новичок легко получает иллюзию входа в любую тему, потому что он уже может говорить правильными фразами и собирать приличные абзацы, но у него еще нет внутренней модели предмета, нет чувства причин и следствий, нет навыка отличить правду от уверенно звучащего бреда, и поэтому «мышца» самостоятельного мышления растет хуже – именно она и должна была сделать ту тяжелую работу, которую теперь «убрали и обезболили» с помощью ИИ.
Это похоже на навигатор в телефоне: он не делает человека глупым, он просто не дает вырастить внутреннюю карту местности, и в момент, когда он почему-то перестает работать, человек не знает, куда рулить, хотя до этого вроде ездил уверенно. Такой протез вместо самостоятельного мышления - это проблема новичка.
А вот специалист попадает в другую ловушку: у него есть модель предмета, он видит ошибки, он умеет проверять, отделять хорошие идеи от уверенной чепухи, он использует ИИ как когнитивный усилитель – и именно поэтому ему начинают подбрасывать все больше задач, потому что «ты же теперь быстрее», и в какой-то момент он становится узким горлышком.
История вторая: «ИИ не снижает рабочую нагрузку, а наоборот»
В Harvard Business Review описали кейс, где доступ к ИИ не упростил работу, а сделал ее интенсивнее: люди начали делать больше, быстрее, шире по задачам, а рабочие границы расползлись на утро, вечер и те самые «15 минут между встречами».
Самое интересно, что никто не требовал от них работать больше – сотрудники сами добровольно расширяли свою нагрузку, потому что ИИ обеспечивал эту возможность, а дальше включалась внутренняя мотивация: раз могу – значит надо. Так начинает незаметно подкручиваться планка, и ускорение превращается не в свободное время, а в дополнительные задачи более высокой сложности, потому что среда быстро привыкает к твоей новой скорости, так же быстро привыкаешь к ней и ты.
ИИ обещал освободить от рутины. Освободил, но случилось неожиданное.
Многие привыкли ругать рутину в работе, как будто она главная помеха счастью, и мечтали отдать ее ИИ, чтобы наконец-то остались только «интересные и творческие задачи». Только на деле оказалось, что рутина выполняла скрытую физиологическую функцию: она была буфером отдыха между энергозатратными задачами.
Когда мы осмысливаем событие, принимаем решение, перебираем варианты, оцениваем риски, то, по сути, разгоняем мозг до высокой «температуры», в эти моменты у него пиковое энергопотребление. А потом начинается исполнение, которое более предсказуемо и менее затратно, и мозг в этот момент, даже если ему скучно, хотя бы перестает кипеть, потому что не должен каждую минуту принимать новые решения. Это самый здоровый режим работы: пораскинул мозгами – пораскинь лопатой снег.
Если же рутину отдать помощнику, а себе оставить только высокоуровневое, только «думай, решай, спланируй, оцени, сравни, проверь», а потом еще и уплотнить день, то очень скоро мы получим голову, которая выглядит как кипящий электрочайник со сломанной системой выключения.
Чем удобнее становится инструмент, тем важнее оказывается личная автономность и способность ограничивать себя в его использовании, потому что иначе ускорение превращается в зависимость, а зависимость в хрупкость. Путь к выгоранию в такой системе становится короче в несколько раз.
Если сложить иллюзию быстрого обучения у новичков и перегрев у специалистов, проблема проявляется вообще в другой области – начинает ломаться система обучения и взращивания людей. Новичков будут обучать нейросетью, потому что это дешевле и быстрее. А у специалистов будет меньше времени на наставничество, ведь это рутинные повторения, разборы, терпеливые объяснения и человеческое взаимодействие, то есть ровно то, что в отчете не выглядит как «высокая эффективность».
Есть еще менее заметный, но, возможно, более важный эффект: ИИ медленно разъедает ткань повседневных человеческих связей. Раньше обучение строилось на микроконтактах – подойти, спросить, получить поправку, увидеть ход мысли, почувствовать плечо или подзатыльник. Именно из этих мелких поводов «уточнить», «помоги разобраться», и «нет, я не совсем дурак» возникали слабые связи, которые потом становились прочными.
Это не умозрительный страх – механизм хорошо описан в исследовании 2021 года, где Microsoft и MIT проанализировали 61 000 сотрудников Microsoft и опубликовали результаты в Nature Human Behaviour: когда люди перешли на удаленную работу, их коммуникации стали замкнутыми и статичными, время на межгрупповые контакты упало примерно на четверть, а новые связи почти перестали возникать. Люди стали общаться узко, только со своими, только по делу.
ИИ рискует продолжить этот процесс внутри офиса. Он – коллега мечты: всегда на месте, не занят, не устал, не просит премию, не ворует еду из общего холодильника. Удобно, но поводов тереться о людей становится меньше, поводов строить доверие – меньше, поводов учиться сложному человеческому взаимодействию – совсем мало. Почти как у ребенка в тексте про умную колонку и тысячу вопросов.
В итоге перегруженный мозг экономит на самом дорогом – на людях, потому что люди – это еще одна сложность, еще слои контекста и эмоций. Разобщение приходит буднично, по-бухгалтерски, как рациональная оптимизация, за которой однажды обнаруживается одиночество.
Что делать, чтобы не стать хрупким в мире усилителей и не перегореть на скорости, мне кажется, довольно понятно, хотя и неприятно просто потому, что это не про «лайфхак», а про взрослые самоограничения.
Сознательно оставлять себе режим тренировки, где сначала думаешь сам, а потом подключаешь ИИ как редактора и критика. Оставлять в дне буферы – паузы между сложными задачами, где мозг может остыть на чем-то простом. Защищать время на наставничество и человеческое общение, где можно быть не полезным, а просто живым.
Я, например, планирую на день ограниченный пул задач – и все. Даже, представьте себе, если я закончил до обеда, то оставшееся время уходит не на «еще пару задачек, раз пошло», а на семью, на спорт, на написание статьи, которую вы читаете. Это сознательное решение не заполнять освободившееся пространство работой, и оно требует усилия, потому что внутренний голос шепчет «ну ты же можешь еще, будет круто». Могу. Но у сложных задач марафонная логика, они выигрываются не рывком, а темпом и умением распределить силы по дистанции.
А если я ничего не понимаю в каком-то вопросе, то стараюсь (получается, увы, далеко не всегда) начать разбираться именно через живую консультацию – подойти, спросить, послушать ход мысли. Это и интереснее, и безопаснее: убирает риск бреда от ИИ или просто обедненного смыслом ответа, а заодно плетет ту самую ткань связей.
Отдельно хочу сказать про проверку знаний, потому что здесь уже происходят вещи, которые скоро станут нормой. Я общался с несколькими представителями вузов, и они прямо говорили: домашние работы по исследовательским темам и рефераты почти бесполезно проверять – соблазн использовать ИИ слишком велик, а отличить качественную генерацию от собственной работы студента все сложнее. И это вынуждает наиболее заинтересованных в развитии учащихся возвращаться к старым методам: устный экзамен, публичная защита, разговор, в котором нужно думать вслух, держать нить рассуждения и отвечать на вопросы. Может быть, это даже вдвойне хорошо: помимо честной проверки, устный формат возвращает живую коммуникацию и немного улучшает социализацию, которую мы теряем по всем остальным фронтам.
Я думаю, что чем больше вокруг будет уверенного, гладкого и неясно кем и зачем написанного, тем выше станет ценность живого контакта, живого обсуждения, живого наставника.
Форсированный двигатель – штука мощная, но радиатор и тормоза не входят в комплект. К счастью, их можно поставить своими руками, и здесь взрослая дисциплина оказывается не ограничением, а формой заботы – о себе и о людях вокруг.