Семинар BayesLab «GAS: улучшение генерации диффузионной модели при малом числе шагов»

Во вторник, 10 июня 2025 г. в 18:00  Александр Оганов, эксперт Лаборатории теоретических основ моделей искусственного интеллекта, выступит с докладом «GAS: улучшение генерации диффузионной модели при малом числе шагов».

В области генеративного моделирования диффузионные модели показали, что генерация изображений может быть качественной и разнообразной. Главным недостатком современных моделей является долгое сэмплирование, так как для качественной генерации требуется большое число шагов (вызов нейронной сети). Одним из способов ускорения генерации является разработка специальных солверов обыкновенных дифференциальных уравнений (ОДУ). В недавних работах был предложен способ дистилляции солвера учителя с большим числом шагов в солвера студента, который использует меньшее число шагов. Мы предлагаем Generalized Solver (GS) — новую и эффективную параметризацию солвера, которую обучаем с учетом данных и обученной диффузионной модели. Без специальных техник в обучении GS достигает лучшего качества, чем существующие методы. Кроме того, мы объединили стандартную задачу дистилляции с состязательным обучением, что позволило дополнительно улучшить качество. Generalized Adversarial Solver (GAS) использует эффективную параметризацию, состязательное обучение и показывает лучшее качество при генерации за малое число шагов.

Выступление пройдёт в аудитории 330 корпуса S НИУ ВШЭ (Покровский бульвар, д. 11) с возможностью онлайн-участия в Zoom. Начало состоится в 18:00 по Московскому времени.