Мария Жарова

Регуляризация в ML

2025-05-04T13:45:45.676Z

Регуляризация — это набор методов, которые помогают моделям лучше обобщать данные и избегать переобучения. Переобучение происходит, когда модель слишком хорошо подстраивается под обучающую выборку и теряет способность работать с новыми данными, которых ещё не видела.

Рис. 1. Переобучение и недообучение на примере классификации.

Важно, что регуляризация — это именно все методы, которые помогают бороться с переобучением, а не только L1 и L2:) Глобально можно разделить их на те, что применяются для моделей классического ML, и для нейросетей.

Регуляризация в классических моделях

Здесь всё просто: L1, L2 и L1+L2 (ElasticNet). Они помогают снизить переобучение, добавляя штраф к функционалу ошибки за большие веса.

L1-регуляризация

L1-регуляризация добавляет к функционалу потерь линейный штраф на абсолютные значения весов.

Рис. 2. Формула L1-регуляризации.

Из минусов — такое выражение сложнее оптимизировать, т.к. функция негладкая (у модуля нет производной в нуле). Из плюсов — этот метод зануляет некоторые веса, поэтому L1-регуляризацию можно считать одним из методов отбора признаков.

L2-регуляризация

В этом подходе добавляется квадратичный штраф на веса, поэтому такой функционал не усложняет оптимизацию.

Рис. 3. Формула L2-регуляризации.

Кстати, названия берутся от одноимённых названий соответствующих типов норм векторов.

ElasticNet

Этот метод объединяет L1 и L2-регуляризации, добавляя штраф как на абсолютные значения весов, так и на их квадраты. Это позволяет использовать преимущества обоих способов.

Рис. 4. Формула для ElasticNet.

Регуляризация в нейросетях

В нейросетях всё хитрее, и способов предотвратить переобучение больше. Идеи с L1, L2 и ElasticNet регуляризацией тоже работают, но есть кое-что поинтереснее...

Dropout

Этот метод случайным образом исключает нейроны из обучения на каждом шаге, предотвращая их избыточную адаптацию к обучающим данным и тем самым улучшая обобщающую способность модели.

Рис. 5. Нейросеть до и после применения dropout.

В популярных фреймворках TensorFlow и Pytorch он указывается как отдельный слой, в качестве гиперпараметра передаётся одно число — вероятность, с которой некоторый случайно взятый нейрон будет отключен.

Рис. 6. Пример сети с dropout на Pytorch.

Рис. 7. Пример сети с dropout на TensorFlow.

Важно, что на этапе инференса dropout не применяется, все нейроны участвуют в вычислении предсказаний. Их веса уже были подстроены под "случайное отключение", и теперь это позволяет сети делает более стабильные и уверенные предсказания.

Batch Normalization

Суть этого метода — нормализовать входы после каждого слоя, чтобы уменьшить смещение и отмасштабировать данные. Это стабилизирует обучение и добавляет небольшой эффект регуляризации.

Рис. 8. Формула батч-нормализации.

В формуле μ и σ — среднее и дисперсия для набора данных (батча), ϵ — небольшая константа для численной стабильности, а γ и β — обучаемые параметры, которые подбираются в ходе обучения.

Идея батч-нормализации берёт начало из классического ML. Как известно, для обычных ML-моделей нормализация данных положительно влияет на сходимость алгоритмов, особенно линейных. Нейросети же тоже состоят из нескольких слоёв, в основе которых — линейное преобразование. Поэтому нормализация после каждого слоя аналогично положительно сказывается на работе алгоритмов.

Рис. 9. Сходимость градиентного спуска с нормализацией и без.

Early Stopping

Или ранняя остановка. Суть метода проста: при обучении нейронной сети отслеживается ошибка на валидационной выборке, и если она перестаёт уменьшаться, обучение останавливается. Это помогает вовремя обнаружить признаки переобучения и остановить процесс, получив на выходе "на грани" обученную модель.

Рис. 10. Пример кода на TensorFlow с ранней остановкой.

Напомним главный сигнал переобучения, который здесь отслеживается: ошибка на валидационных данных растёт, даже если на тренировочной выборке она продолжает снижаться.

Data Augmentation

Этот приём больше применим к задачам компьютерного зрения. Заключается в генерации новых данных путём небольших изменений исходных. Например, можно отразить, повернуть, обрезать картинки, пошатать цветовые каналы... Для модели технически это будут новые изображения. Главное — сильно не переусердствовать с изменениями, чтобы всё ещё можно было определить, что находится на картинках.

Рис. 11. Хорошие аугментации.

Рис. 12. А так лучше не делать:)

Вместо заключения

Методы регуляризации — важные инструменты, которые позволяют улучшить обобщающую способность моделей и избежать переобучения. Но стоит применять их только при необходимости: если модель, наоборот, недообучается или и бех того нормально сходится, то регуляризация может оказаться излишней.

Решение примет АB-тест

2025-05-04T13:44:30.785Z

AB-тестирование - это статистический инструмент, который помогает принимать компаниям обоснованные и эффективные решения. Он может дать объективную оценку любому нововведению в реальных условиях бизнес-задачи + позволяет выявить истинные потребности пользователей. В этой статье поговорим, что такое AB-тест, как он работает и какие преимущества может принести.

Что такое AB-тестирование?

Это метод исследования, который сравнивает текущую версию продукта (версию А) с его изменённой версией (версией B). Представим, что мы обновили дизайн сайта онлайн-магазина, но как определить, понравится это пользователям или нет? Самое простое - давайте разделим их на две группы: одной покажем новый дизайн, а другую оставим без изменений. Дальше в течение некоторого времени будем измерять активность обеих групп - например, кто сколько сделал покупок. После сравним результаты и примем решение.

Это объяснение самым простым языков, на деле не всё так легко. Давайте разбираться в деталях:)

Этапы AB-теста

1). Определение метрик и формулирование гипотез.

На этом этапе необходимо определиться, какую метрику мы хотим увеличить при внедрении варианта продукта B. Это могут быть метрики ML-моделей, если обновление заключалось во введении нового алгоритма; или SMM-показатели, такие как число просмотров, лайков, конверсия и т.д. Главное - чтобы метрика была измеримой и на неё можно было влиять. Тут лучше сразу привести "антипримеры": неизмеримая метрика - уровнь счастья клиентов, а та, на которую мы не сможем повлиять - курс доллара. Поэтому, необходимо выбирать с умом, т.к. потом нам придётся подсчитывать по ней результаты:)

Далее необходимо сформулировать гипотезу, её шаблон можно записать так: вариант продукта B увеличит (уменьшит) выбранную метрику на X процентов. То есть здесь обязательно нужно озвучить на сколько планируется изменение метрики, а если их несколько (например, средний чек и среднее число покупок) - для каждой нужно сформулировать отдельное предположение.

Если переходить к статистике, эта гипотеза будет альтернативной, т.к. нулевая всегда описывает равенство, что в нашем случае - просто отсутствие изменений. Напомним, что существуют также понятия ошибок I и II рода:

Ошибка I рода - это ситуация, когда мы отвергаем нулевую гипотезу и принимаем решение в пользу альтернативной, но на деле это неверно. Веростность ошибки I рода обычно обозначают α‎ (альфа).
Ошибка II рода - это ситуация, когда мы, наоборот, ошибочно принимаем нулевую гипотезу и отвергаем альтернативную; её обозначают β‎ (бетта).

Эти понятия пригодятся нам дальше.

2). Подготовка к тестированию

На этом этапе необходимо определиться со следующими моментами:

достаточные размеры тестируемых групп пользователей
длительность теста по времени
оценка рисков

Предположим, мы хотим измерить эффект от работы рекомендательной системы по выборке размером 10 человек в каждой группе, при этом наш сайт ежедневно посещают тысячи пользователей. Корректно ли будет судить о всей аудитории по такой маленькой выборке? Кажется, что нет. Но наряду с этим вполне может оказаться, что AB-тест "примет решение" не в сторону обновлений, и мы потеряем прибыль на клиентах B-группы. Поэтому, лучше не делать их слишком большими... Как попасть в "золотую середину" и корректно подобрать нужный размер - подскажет статистика.

Чтобы определить минимальный необходимый объём выборки, на котором можно корректно зафиксировать желаемый эффект X из гипотезы, понадобятся:

значения вероятностей ошибок I и II рода, которые мы можем допустить
само значение X из гипотезы
текущий уровень конверсии в группах (т.е. какой положительный эффект в них уже присутствует, без всяких обновлений)

Имея эти данные, можно воспользоваться, например, онлайн-калькулятором для расчёта минимального размера групп.

Важно отметить, что гипотезы бывают самые разные, не обязательно указывать X именно в процентах. Также можно использовать различные метрики, а не только конверсию - тогда калькулятор понадобится уже другой.

Для выбора длительности теста можно оттолкнуться от формулы:

количество дней = (размер выборки) / (трафик)

Пример: пусть минимальный размер выборки 10000 уникальных клиентов. При этом в среднем приходит 1000 посетителей в день. Тогда длительность теста должна быть 10 дней.

Можно также учесть сезонные показатели, дни недели, время; и, конечно, бизнес-моменты - такие как длительность оформления сделок, сколько в среднем клиентам надо времени на "подумать" и т.д.

Рассчитав все эти числа, можно оценить риски (и вообще понять, сможем ли мы правильно организовать AB-тест).

3). Настройка распределения на группы

Представьте, что вы проделали все шаги выше и отобрали две группы. Но потом оказывается, что в A попали постоянные клиенты, а в B те, которые сделали давно 1-2 покупки и потом пропали. Вероятно, при таком делении мы обнаружим высокую конверсию в первой группе и, возможно, ошибочно примем решение, что результат теста незначимый, так и не узнав настоящую правду.

Чтобы этого избежать, необходимо отбирать группы однородно, т.е. так, чтобы они были +- похожи по основным характеристикам. Конечно, две идеально похожие выборки мы не сделаем, всё ограничивается как минимум имеющимися данными по пользователям (т.е. однородно подобрать их по характеру мы вряд ли сможем:)), да и проверять по всем подряд признакам тоже не имеет смысла. Поэтому при планировании AB-теста обычно составляется список критериев однородности, которые наиболее важно учесть, и далее группы формируются уже "равноправно" (в кавычках, потому что подобрать даже по конкретным показателям абсолютно одинаковых пользователей не получится - допускается некоторая погрешность).

4). Запуск, проведение теста и сбор результатов

На этом этапе просто необходимо проверять, что все нужные условия для проведения эксперимента работают корректно:

группа А видит вариант продукта А, а группа B видит вариант продукта B, что отсутствуют пересечения между этими группами
нет внезапного влияния внешних факторов (не появляются неожиданные масштабные события, которые могут повлиять на результаты эксперимента)
все результаты централизованно поступают в систему хранения данных
и другое...

По окончании теста собираем и агрегируем полученные данные.

5). Подведение итогов и принятие решения

Задача определения "победителя" опять ложится на статистику. Здесь достаточно просто применить статистический тест для сравнения двух групп (про алгоритм выбора теста для сравнения количественных признаков ранее писали тут, для категориальных можете использовать тест хи-квадрат). Или для простого анализа результатов по конверсиям можно рассчитать при помощи калькулятора.

По итогам анализа мы принимаем или отклоняем первоначальную гипотезу и формируем один из трёх возможных выводов:

Вариант продукта А является более эффективным (по заданной метрике), чем вариант B.
Вариант продукта B является более эффективным (по заданной метрике), чем вариант А.
Варианты А и B являются идентичными, то есть между ними нет разницы с точки зрения заданной метрики.

Когда сделан вывод, сформирован отчёт о проведении AB-теста и его результатах, принимается решение о внедрении варианта B или необходимости дальнейшего исследования.

Хотелось бы отметить, что не существует хорошего или плохого результата. Цель AB-тестирования - вовремя сделать верные выводы в целях рационального использования средств бизнеса. Если в результате получилось так, что новый вариант не оправдал себя, нужно порадоваться и принять такой исход событий:) И важно помнить, что статистические методы проверки гипотез не являются абсолютно точными и могут гарантировать результат только с заданным уровнем значимости.

Магия рекомендаций: откуда компьютеры знают, что вы хотите

2025-05-04T13:43:15.644Z

Возможно, вы замечали, что когда листаете ленту интернет-магазина, слушаете персональную подборку музыки или смотрите тик-токи, вам предлагаются товары, песни или клипы, которые кажутся созданными специально для вас. Всё это не случайность, а результат работы специальных алгоритмов, известных как рекомендательные системы. На основе наших предыдущих запросов, интересов и обратной связи они подбирают то, что с большей вероятностью может нам приглянуться.

Постановка задачи

Какой бы ни была сфера и область деятельности, в задаче рекомендаций всегда выделяют пользователей - здесь всё понятно, это мы с вами: клиенты, покупатели, зрители.... и объекты - это товары, песни или фильмы. Формально задачка в том, чтобы для каждого пользователя составить персональную подборку предметов, отранжированную в порядке "интересности" конкретно для него. Это было бы здорово как для бизнеса, так и для самих пользователей - компании бы больше продавали, а мы бы находили быстрее то, что нам нужно, ощущая при этом "индивидуальный подход".

Принцип работы

Как и в любой Data-Science-задаче, прежде чем что-то предсказывать, алгоритмам нужны данные для обучения. Конкретно для рекомендательных систем можно выделить два их типа:

Информация про пользователей или предметы в отдельности (метаданные). Это их независимые и неизменные характеристики, такие как имя, пол, возраст, город проживания или же цвет, категория, жанр и т.п. соответственно. Можно получить их из анкет клиентов или описаний товаров.
Данные про взаимодействие пользователей и предметов (часто их называют коллаборативные данные - от англ. collaborative). Здесь каждая "единица информации" содержит в себе пару - одного пользователя и один предмет. Это может быть оценка, поставленная нами какому-либо фильму; дизлайк на песню; просмотр конкретного товара и т.п.

После того, как все возможные данные собраны, можно определиться с типом алгоритма:

Рис. 1 "Типы алгоритмов"

Чуть поподробнее про каждый случай:

Content-based модели. Название говорит само за себя - это алгоритмы, которые просто ищут похожие предметы к тем, которыми мы когда-либо интересовались. Посмотрели фильм про зомби? Рекомендательная система подберёт 10 похожих. Часто слушаете поп-музыку? Алгоритмы найдут ещё. Купили диван? Тогда следующие рекомендации тоже будут про диваны:) Но понадобится ли нам на следующий день ещё один новый диван - это уже вопрос. В этом минус такого подхода - пользователь не попробует концептуально ничего нового + иногда такая схема может просто оказаться нелогичной и принести убытки.
Коллаборативные модели. Используя этот метод, можно прогнозировать рейтинги по оценкам похожих пользователей или похожих продуктов. Главное отличие здесь в том, что уже никак не используются их заданные характеристики из метаданных, всё основано только на информации об их взаимодействии. Можно предположить, что похожие по вкусам пользователи будут выбирать похожие предметы, но эти самые "вкусы" алгоритмы выделяют самостоятельно, не используя очевидные свойства из метаданных. То есть, просто по истории взаимодействий можно выделить группы схожих пользователей и схожих предметов, что очень здорово и решает ту самую проблему новизны, которая есть в content-based алгоритмах. Но есть и минусы, о них чуть ниже:)
Гибридные модели. В идеальном мире, когда у нас есть все виды информации - почему бы не использовать два подхода одновременно? Такие модели, кстати, чаще всего и применяются в настоящих прикладных задачах.
Модели на основе популярности. Представьте, что в систему попадает новый пользователь, который ничего про себя не указал и пока что не провзаимодействовал ни с одним предметом - что ему рекомендовать? Это так называемая проблема "холодного старта", которую можно попытаться просто решить - для начала предложить такому пользователю самые популярные предметы. По общей статистике это должно неплохо сработать, а дальше можно уже начинать собирать обратную связь в виде коллаборативных данных.

А что про сбор данных и слежку?

Возможно, кто-то уже задался этим вопросом или вспомнил, как реклама Яндекс-директа чудесным образом начинает советовать что-то купить на основе наших поисковых запросов. Всё это, конечно, не случайно - наши действия коллекционируются в базах и почти мгновенно перерождаются в рекомендации. Но важно отметить, что собираемая информация анонимизирована и конфиденциальна, даже если Вы авторизованы в своём аккаунте. В данных, которые используются для обучения рекомендательных систем, хранятся только зашифрованные ID пользователей, которые позволяют технически связать их историю взаимодействия и предоставляемые рекомендации. Так что, вашей истории браузера не увидит никто, даже дата-саентисты:)

Заключение

Рекомендательные системы - это не просто технология, они стали частью нашей повседневной жизни. Они делают огромный мир Интернета интереснее и удобнее, экономят наше время, помогают делать открытия среди бесконечного количества контента. Они, кажется, знают нас лучше, чем мы сами.

Важно отметить, что рекомендательные системы - это не "Большой Брат", следящий за нами. Они работают с анонимными данными и анализируют общие тенденции, чтобы предоставлять персонализированные предложения. Их цель - сделать нашу жизнь более удобной и приятной, помогая исследовать цифровой мир.

Но важно осознавать, что рексистемы - это лишь помощники, и в конечном счёте мы контролируем то, как используем их. Так что, давайте погружаться в мир рекомендаций, но не забывать, что мы всегда остаёмся хозяевами собственного выбора.