Семинар BayesLab «Обратная дистилляция как универсальный метод ускорения диффузионных моделей для генерации текста и изображений»
Никита Гущин, Никита Корнилов и Давид Ли расскажут об универсальном фреймворке обратной дистилляции, который значительно ускоряет как непрерывные, так и дискретные диффузионные модели, обобщая множество ранее разработанных подходов на основе трёх ключевых статей.
Во вторник, 19 мая 2026 г. в 18:00 Никита Гущин, исследователь из Сколтеха и Института AIRI, Никита Корнилов, сотрудник Сколтехаи МФТИ, и Давид Ли из MBZUAI, выступят с докладом «Обратная дистилляция как универсальный метод ускорения диффузионных моделей для генерации текста и изображений», посвящённым универсальному фреймворку обратной дистилляции, ускоряющему как непрерывные, так и дискретные диффузионные модели и обобщающему множество ранее разработанных подходов на основе трёх ключевых статей.
Диффузионные модели лежат в основе многих генеративных систем, включая генерацию изображений и видео по текстовому описанию. Одновременно с этим дискретные диффузионные модели активно развиваются как альтернатива авторегрессионным подходам для генерации текста. Однако во всех областях применения диффузионных моделей неизбежно возникает один и тот же вопрос: как сделать их достаточно быстрыми для практического использования? В этом докладе мы рассмотрим универсальный фреймворк обратной дистилляции позволяющий значительно ускорить как непрерывные так и дискретные диффузионные модели и обобщающий многие ранее разработанные подходы. Доклад разбит на 3 части просвещённые 3 статьям в которых формировался фреймворк обратной дистилляции.
Выступление пройдёт смешанном формате в аудитории 503 корпуса D НИУ ВШЭ (Покровский бульвар, д. 11), с возможностью онлайн-участия в Zoom. Начало состоится в 18:00 по Московскому времени.
Статья «Inverse Bridge Matching Distillation»
Статья «Universal Inverse Distillation for Matching Models with Real-Data Supervision (No GANs)»
