• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Статья сотрудников HDI Lab получила Spotlight доклад на конференции AISTATS 2026

Статья «Gaussian Approximation and Multiplier Bootstrap for Stochastic Gradient Descent», написанная учёными Международной лаборатории стохастических алгоритмов и анализа многомерных данныхМарина ШешуковаСергеей СамсоновДенис Беломестный, Алексей Наумов,  совместно с Eric MoulinesQi-Man Shao и Zhuo-Song Zhang принята в программу 29-й ежегодной конференции по искусственному интеллекту и статистике (AISTATS) как Spotlight. 

В статье была устанавлена неасимптотическая корректность процедуры мультипликативного бутстрэпа для построения доверительных множеств с использованием алгоритма стохастического градиентного спуска (SGD). При выполнении соответствующих условий регулярности разработанный подход позволяет избежать необходимости аппроксимации предельной ковариации итераций SGD в схеме Поляка–Рупперта, что, в свою очередь, даёт возможность получить скорости аппроксимации в выпуклой метрике вплоть до порядка 1/ √ n. Примечательно, что эта скорость может быть выше той, которую удаётся установить в рамках центральной предельной теоремы Поляка–Юдицкого. По словам авторов статьи, это даёт первую полностью неасимптотическую оценку точности бутстрэп-аппроксимаций в алгоритмах SGD. Анализ опирается на результаты о гауссовской аппроксимации для нелинейных статистик независимых случайных величин.

Annual Conference on Artificial Intelligence and Statistics (AISTATS) – престижная международная конференция в области машинного обучения, статистики и искусственного интеллекта, проводящаяся с 1985. Нынешняя, 29-я по счёту, конференция AISTATS будет проходить с 2 по 5 мая в г. Танжер, Марокко. Конференция AISTATS входит в список ACONF НИУ ВШЭ. Статьи, опубликованные в её рамках, имеют рейтинг A. 

Шешукова Марина Евгеньевна

Международная лаборатория стохастических алгоритмов и анализа многомерных данных: Младший научный сотрудник

Самсонов Сергей Владимирович

Международная лаборатория стохастических алгоритмов и анализа многомерных данных: Заведующий лабораторией

Беломестный Денис Витальевич

Международная лаборатория стохастических алгоритмов и анализа многомерных данных: Ведущий научный сотрудник

Наумов Алексей Александрович

Международная лаборатория стохастических алгоритмов и анализа многомерных данных: Научный руководитель

Eric Moulines

Full Professor, Machine Learning, Mohamed bin Zayed University of Artificial Intelligence Full Professor, Laboratoire de Recherche de l'EPITA, Ecole Pour l'Informatique et les Techniques Avancees

Qi-Man Shao

Full Professor, Statistics and Data Science, Southern University of Science and Technology

Zhuo-Song Zhang 

Assistant Professor, Shanghai Jiao Tong University