Все мы любим генерировать причудливые картинки с помощью диффузионных генеративных моделей: Midjourney, Stable Diffusion, Шедеврум, Kandinsky и многих других. Нейросети, обученные на огромных количествах пар текстов и картинок способны удовлеторить почти любую, даже самую безумную фантазию заказчика (если не считать правильного количества пальцев, взаимного расположения обьектов и иных нюансов).
Данный пост будет в необычном формате.
Значится, есть у нас квантованная модель, скажем, в 4-бита с некоторой просадкой в качестве на целевой задаче. И мы хотим каким-то образом устранить эту просадку. Естественный вариант - дообучить на целевой задаче.