Научный семинар ДПИ: Система эксплуатации моделей искусственного интеллекта SmartMLOps 3.0

Дата: 22 октября, 18:00, ауд. D725 // онлайн 

Докладчик: Салех Х.М., доцент ДПИ, Силаев Ю.В., старший преподаватель ДПИ

Тема семинара: Система эксплуатации моделей искусственного интеллекта SmartMLOps 3.0

Аннотация: 

Семинар посвящён инженерным вопросам эксплуатации моделей и сервисов искусственного интеллекта после завершения их разработки.
Будет рассмотрено, какие задачи возникают при переходе от отдельной модели или программного прототипа к постоянно эксплуатируемой ИИ-системе: публикация и версионирование, предоставление доступа, управление средой исполнения, наблюдение за состоянием моделей и данных, выявление деградации и фиксация эксплуатационных событий.
На примере платформы SmartMLOps 3.0 будет представлена архитектура эксплуатационного контура ИИ и взаимодействие его основных компонентов. Отдельное внимание будет уделено мониторингу моделей, использованию базовых профилей и временных окон наблюдения, выявлению отклонений и формированию эксплуатационных инцидентов.
Будет рассмотрено, как развитие генеративного искусственного интеллекта меняет требования к MLOps-платформам. Будут показаны подходы к эксплуатации LLM-сценариев, включающих последовательность обращений к моделям, а также к наблюдаемости таких сценариев с учётом длительности выполнения, числа токенов и других эксплуатационных характеристик.
В рамках семинара будет продемонстрирован сквозной сценарий работы с ИИ-сервисом в SmartMLOps 3.0 - от его подготовки к эксплуатации и предоставления доступа до наблюдения за работой и выявления отклонений.
Главная цель семинара - показать эксплуатацию искусственного интеллекта как самостоятельный инженерный процесс, требующий управления жизненным циклом, наблюдаемости, контроля и воспроизводимых процедур работы с ИИ-системами.

Если вам для посещения семинара необходим пропуск в НИУ ВШЭ, напишите, пожалуйста, по электронной почте: dpi@hse.ru