• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Спецсеминар Bayes Group: Диффузионные модели в латентном пространстве

16+
Мероприятие завершено

02 декабря состоится спецсеминар, начало в 18 00.

Выступит: Тингир Бадмаев (НИУ ВШЭ)
Тема: Диффузионные модели в латентном пространстве

Абстракт: За последние пару лет диффузионные модели продемонстрировали отличное качество генерации, сопоставимое с sota-алгоритмами на основе GAN и VAE.  Однако зачастую процесс диффузии происходит в пространстве данных, которые имеют большую размерность. Значит, вдобавок к итеративной схеме, мы получаем очень долгий процесс генерации. 

На спецсеминаре мы подробно разберем модель на основе VAE и cont. DDPM. Latent Score Generative Model использует процесс диффузии в латентном пространстве VAE, что упрощает обучение для DDPM, поскольку теперь DDPM необходимо моделировать не сложное распределение многомерных данных, а распределение близкое к праеру в VAE. Второй плюс - исходное пространство может иметь дискретную структуру. Score Based GM на основе диффузии с гауссовскими распределениями не умеют моделировать дискретные данные. Вторым примером использования диффузии в латентных переменных, мы рассмотрим Stable Diffusion.

Статьи: nvlabs.github.io/LSGM, arxiv.org/abs/2112.10752

 

Присоединиться к спецсеминару