Семинар HDI Lab: Преимущества дообучения диффузионных вероятностных моделей с помощью функции потерь Хьюбера
В этот четверг, 4 апреля, в 14:40 состоится очередной семинар. С докладом выступит Вадим Попов (Huawei).
Преимущества дообучения диффузионных вероятностных моделей с помощью функции потерь Хьюбера
Диффузионные вероятностные модели предполагают, как правило, обучение посредством минимизации средней квадратичной ошибки между некоторой величиной и её оценкой нейронной сетью. В докладе будет рассмотрено влияние функции потерь Хьюбера как робастной альтернативы средней квадратичной ошибки в контексте обучения диффузионных моделей. Будут продемонстрированы практические преимущества функции потерь Хьюбера в случае, когда диффузионная модель дообучается на данных, содержащих существенное количество шума. Кроме того, будет сформулирован теоретический результат, отчасти объясняющий наблюдаемые результаты, а также приведено его схематичное доказательство.