«Статьи всегда заканчивают в самый последний момент — это негласный закон всех исследователей»
— Расскажи о себе.
— Меня зовут Марк, я выпускник ПМИ, сейчас учусь в Федеральной политехнической школе Лозанны (Швейцария), пишу докторскую диссертацию по анализу языковых моделей и пытаюсь разобраться в том, откуда берутся странные феномены, возникающие при обучении нейронных сетей.
— Как ты поступил на ФКН? Почему выбор пал на ПМИ?
— Я узнал о ФКН в десятом классе, когда сказал кому-то, что собираюсь поступать в МГУ. Мой собеседник тогда предложил мне рассмотреть альтернативы и упомянул о Вышке. Я изучил информацию на сайте, съездил на День открытых дверей и понял, что это то место, где я хочу учиться. Я не был до конца уверен, какая область в сфере компьютерных наук мне наиболее интересна, но я понимал, что хочу заниматься скорее фундаментальными темами, а не только программированием, поэтому ПМИ казалась наиболее логичным вариантом.
— Как проходило обучение? Что больше всего запомнилось?
— Больше всего мне запомнился первый семестр — до начала пандемии коронавируса и перехода на онлайн-формат обучения он был максимально «студенческим». С того времени мне запомнились пары по алгоритмам и структурам данных Глеба Евстропова, потому что они были очень сложные. Я часто ничего не понимал, но было интересно.
Вообще, я могу сказать, что жил свою лучшую студенческую жизнь. Еще я участвовал в хакатонах и вдохновлялся тем, что все вокруг знают намного больше меня. Было приятно, что можно вместе с друзьями и однокурсниками решать сложные задачи и заниматься интересными проектами.
— Что самое важное ты приобрел в Вышке?
— Я думаю, что самое важное приобретение для меня — это умение не сдаваться и искать разные варианты решения задачи, которая на первый взгляд казалась нерешаемой. Контесты, домашки, коллоквиумы — все это учит стойкости.
— Как ты принял решение о продолжении обучения и почему выбрал Федеральную политехническую школу Лозанны?
— На третьем курсе бакалавриата я заинтересовался глубоким обучением и, в частности, его научной стороной. Я закончил магистратуру, связанную с этой темой, в Саарском университете (Германия) и сейчас продолжаю обучение в Швейцарии. Это хороший университет, здесь есть несколько лабораторий, сфера деятельности которых мне нравится. Я не сомневался, что найду здесь профессора, с которым мы сойдемся во взглядах на исследования.
Я исследую то, как обучаются нейронные сети. Несмотря на то, что человек смог обучать их так, чтобы они хорошо работали, мы слабо понимаем, что конкретно они выучивают, потому что мы это не контролируем. Довольно часто исследователи обнаруживают феномены, которые никто не закладывал в модели напрямую и не ожидал ничего подобного. Поэтому многие лаборатории пытаются в этом разобраться и построить более или менее всеобъемлющую теорию, которая бы описывала, по каким законам развиваются нейросети, какие признаки они выучивают, как это зависит от данных и так далее.
— Поделись впечатлениями от участия в менторской программе ФКН.
— У меня есть опыт обучения в зарубежных вузах, и я подумал, что было бы здорово им поделиться, если у студентов есть такой запрос. Ребята в основном приходили ко мне с вопросами о выборе программ и подготовке необходимых документов. Я хорошо понимаю, как устроены процессы только в тех странах, где я сам жил и учился, но надеюсь, что мне удалось помочь своим подопечным выстроить хотя бы общую картинку и определиться с траекторией.
— Остается ли свободное время? Как удается отдохнуть и перезагрузиться?
— Количество свободного времени сильно зависит от лаборатории и профессора, с которым ты работаешь, а также от близости дедлайна очередной конференции. Я знаю, что есть лаборатории, в которых нормально работать все выходные, но, к счастью, это не мой случай. Хотя если дедлайн близко, все сидят и работают, потому что статьи всегда заканчивают в самый последний момент — это негласный закон всех исследователей.
Если говорить об отдыхе, я люблю горные виды спорта, а Швейцария к этому очень располагает. Когда горнолыжный сезон заканчивается, катаюсь на велосипеде и занимаюсь ходьбой. Когда кажется, что ничего не получается, мне очень помогает бег, это поднимает моральный дух.
— Что бы ты посоветовал нынешним студентам?
— Во-первых, вносите разнообразие в свою жизнь и увеличивайте количество энтропии в ней. В Вышке и вообще в университетах очень много возможностей, которыми можно и нужно пользоваться: подаваться на стажировки и программы обмена, общаться с однокурсниками, ходить на курсы по выбору, потому что из всего этого часто выходит что-то неожиданное и крутое.
Во-вторых, не унывайте. Университетская среда располагает к тому, что все вокруг умные и с ними интересно разговаривать, но в то же время может показаться, что все вокруг умнее тебя. Важно помнить, что как бы это ни выглядело, на деле все может быть по-другому. Верьте, что все получится, и сможете дойти до конца, на каком бы этапе вы ни застряли.