Генеративный ИИ в образовании: еще одна бессмысленная ошибка?
О чем поговорим сегодня?
Короткой строкой: ИИ и образование
Генеративный искусственный интеллект, такой как ChatGPT, имеет потенциал для революции в образовании. Однако его роль в обучении часто неверно интерпретируется из-за недостатка знаний о науке мышления и обучения. Использование ИИ может быть контрпродуктивным, когда он исправляет несуществующие ошибки. Это может создать иллюзию понимания, которая может препятствовать действительному обучению. Поэтому важно критически оценить его преимущества и недостатки перед тем, как внедрять его в образовательную систему.
Об авторе:
Бенджамин Райли — основатель Cognitive Resonance, компании, которая занимается улучшением понимания человеческого познания и генеративного ИИ.
Ссылка на оригинал статьи: https://www.educationnext.org/generative-ai-in-education-another-mindless-mistake/
Представьте, что появилась новая технология, которая не похожа ни на что из того, что мы видели ранее. Эта технология создаёт новые способы обмена информацией, которые одновременно интересны и развлекательны. Она обещает генерировать новые формы знаний на постоянной основе.
Действительно, это новое изобретение кажется настолько преобразующим, что заставляет одного из самых выдающихся предпринимателей в мире предположить, что всего через несколько лет методы передачи знаний студентам радикально изменятся.
Я, конечно же, говорю о 1913 годе и появлении кинематографических технологий — фильмов, — которые заставили Томаса Эдисона предсказать, что книги в школах устареют в течение десятилетия.
Снова и снова мы слышим о том, как генеративный искусственный интеллект, в частности чат-боты с «моделью большого языка» (LLM), такие как ChatGPT, изменят образование. Билл Гейтс, например, предсказал в апреле 2023 года, что через 18 месяцев, к октябрю этого года, генеративный ИИ станет таким же хорошим наставником, каким мог бы быть человек.
Чтобы не отставать, Сал Хан, основатель Академии Хана, считает, что ИИ станет «вероятно, самой большой трансформацией», которую когда-либо видело образование. Прямо сейчас его организация продаёт чат-бота Khanmigo, ориентированного на образование, школам.
Почему мы продолжаем совершать эту ошибку? Почему мы, кажется, обречены повторять бесконечный цикл энтузиастов электронных технологий, которые слишком много обещают и не добиваются результатов? Есть много причин, но я остановлюсь здесь только на одной: мы продолжаем неправильно понимать роль, которую технологии могут играть в образовании, потому что нам не удалось должным образом понять науку о том, как мы, люди, думаем и учимся.
Вот один из примеров. Когнитивисты используют термин «теория разума» для описания нашей способности понимать, что происходит в сознании других людей и в нашем собственном.
В образовании учителя должны представлять, что происходит в сознании каждого ученика, чтобы понимать, какие у них есть заблуждения и на какие знания они опираются при изучении нового материала. Важно понимать, что эта способность развивается у нас благодаря определённым культурным практикам — нашим разговорам и взаимодействию с другими людьми.
Именно так это происходит каждый день в школе.
Но ни ChatGPT, ни Khanmigo, ни любая другая существующая технология, основанная на больших языковых моделях (LLM), пока не способна разработать надёжную теорию мышления о том, что происходит в головах их пользователей. Эти технологии работают иначе. Они предсказывают следующее слово, используя сложный набор статистических алгоритмов. Часто кажется, что эти модели ведут человеческий разговор, но это не так.
Чтобы продемонстрировать этот недостаток, давайте решим задачу по алгебре вместе.
Представим, что ручка и карандаш стоят 2,5 доллара, а карандаш на 2 доллара дешевле ручки. Сколько стоит каждый из этих предметов по отдельности?
Я избавлю вас от необходимости думать: пусть P — это стоимость ручки, тогда стоимость карандаша будет равна P минус 2 доллара. То есть P плюс (P минус 2) равно 2,50.
Что будет, если мы попросим чат-бота помочь нам упростить это уравнение? Ответ чат-бота может быть разным, но вот один из вариантов:
Не только в том дело, что Khanmigo ошибается в математике (как это часто бывает). Самое неприятное — это то, что он как будто ведёт со мной беседу, но на самом деле никакого реального «мышления» с его стороны не происходит.
Khanmigo не способен понять, что происходит у меня в голове, когда я пытаюсь объяснить ему, почему моё упрощение уравнения верно. Вместо этого он лишь смутно даёт понять, что мои рассуждения не совсем верны. Всё это взаимодействие — лишь иллюзия разговора. Я предлагаю обоснование своих мыслей, а Khanmigo просто генерирует текст в ответ на мои слова.
Это не только бесполезно, но и контрпродуктивно для обучения. Сейчас я уверен в своих знаниях по алгебре, но представьте себе, как это может быть для восьмиклассника, который только начинает изучать этот предмет. Khanmigo может неоднократно, но ошибочно намекать, что вы неправильно посчитали то, что на самом деле сделали правильно.
Когнитивист Гэри Маркус описывает поведение генеративного ИИ как «часто ошибается, никогда не сомневается», и это самое худшее качество, которое только можно представить для педагога. Мы можем даже назвать это антиобучением, так как эти инструменты исправляют «ошибки», которые ученики не совершают.
На этом этапе сторонник искусственного интеллекта может возразить, что я привёл простой пример с ошибкой Khanmigo. Но проблема в том, что обе стороны спорят без достаточных данных.
По моему опыту, Khanmigo часто ошибается в простых математических вычислениях, но у нас нет точных данных о том, как часто происходят эти ошибки. Сторонники ИИ могут утверждать, что со временем эти инструменты станут лучше, но на данный момент нет доказательств их эффективности в улучшении обучения студентов в масштабах страны.
Поэтому, возможно, нам следует быть осторожнее и не внедрять эту технологию в нашу систему образования слишком быстро.
Я снова кажусь человеком, который противится прогрессу. И всё же одна из величайших ироний в образовании заключается в том, что, хотя мы стремимся развивать критическое мышление у всех наших учеников, когда в обществе появляется новая, казалось бы, преобразующая технология, видные и влиятельные деятели системы образования не хотят критически оценить, не перевесят ли её издержки предполагаемые преимущества.
Этому необходимо положить конец. Развивая более глубокое понимание науки о том, как работает наш разум, и сравнивая эту науку с технологией, лежащей в основе генеративного ИИ, мы сможем принимать более взвешенные решения о том, как использовать этот новый инструмент — и использовать ли его вообще.