Семинар BayesLab «Атаки на большие визуально-языковые модели»

Во вторник, 15 сентября 2026 г. в 18:00 Евгений Пищик, аспирант Центра глубинного обучения и байесовских методов ФКН НИУ ВШЭ, выступит с докладом «Атаки на большие визуально-языковые модели», посвящённым атакам на визуально-языковые модели и методам обхода их защитных механизмов с помощью adversarial-примеров и скрытых триггеров.

Атаки на большие визуально-языковые модели представляют собой преднамеренное манипулирование входными данными или моделью с целью получения вредоносных или некорректных ответов.

На семинаре обсудим общие топики по атакам на нейронные сети: классификация атак по модальности данных, уровню доступа злоумышленника к модели, стадии воздействия, заметности, целенаправленности и типу, а также изучим метрики оценки успешности и незаметности атак. Отдельно поговорим про VLM и почему замороженный визуальный энкодер делает его удобной точкой атаки.

Далее рассмотрим несколько конкретных методов атак на VLM:
M-Attack – transferable adversarial-атака, переносящая атаку с ансамбля из M визуальных энкодеров на VLM через сближение эмбеддингов путем оптимизации шума, добавляемого к изображению.
FOA-Attack – развитие M-Attack с матчингом признаков токенов и динамическим взвешиванием функции потерь между несколькими энкодерами.
Jailbreak in Pieces – метод обхода защитных механизмов через разбиение вредоносного текстового запроса на безопасный текстовый промпт и adversarial-изображение, семантически близкое к вредоносному триггеру в пространстве CLIP.
TrojVLM – backdoor-атака через дообучение адаптера VLM с использованием комбинации language modeling loss и semantic preservation loss, встраивающая скрытый триггер для задач image captioning и VQA.
Для каждого метода приводится схема атаки, алгоритм оптимизации, сравнение с альтернативными подходами и количественные результаты на актуальных VLM.

Выступление пройдёт в онлайн-формате в Zoom с возможностью очного прослушивания в аудитории 203 корпуса D НИУ ВШЭ (Покровский бульвар, д. 11). Начало состоится в 18:00 по Московскому времени.