Большое интервью старшего научного сотрудника лаборатории Алексея Незнанова в программе «Актуально» Радио России, посвященное искусственному интеллекту

В середине октября в Сколково проходил форум «Открытые инновации». В его пленарном заседании принимал участие премьер-министр страны Дмитрий Медведев, который не только сообщил о том, что в ближайшие годы в бюджете на развитие цифры в России предполагается выделить 1 трлн 600 млрд рублей, но ещё заявил о том, что в программе цифровой экономики будет ещё один федеральный проект. Называется он «Искусственный интеллект». 
25 октября 2019 года программу "Актуально" вели журналист Елена Щедрунова и политолог Игорь Шатров. В качестве гостя они пригласили cтаршего научного сотрудника Международной лаборатории интеллектуальных систем и структурного анализа ФКН НИУ ВШЭ Алексея Андреевича Незнанова (к.т.н., доцент).

- Что такое искусственный интеллект?

А. Незнанов: Общепринятого определения искусственного интеллекта не просто не существует, а его невозможно дать в силу широты области. Сейчас обычно считается, что искусственный интеллект делится на два принципиально разных класса. Это сильный и слабый искусственный интеллект. Для обычного человека этого достаточно. Говорят, что сильный интеллект – это замена человеческого разума. И это как раз приводит нас к терминаторам и разным негативным явлениям. А слабый искусственный интеллект, который сейчас обычно называют интеллектуальной системой, – это всё, что позволяет решать задачи, которые раньше были либо совсем плохо формализованы, либо мы их просто не умели так хорошо ставить, как сейчас, и в результате получается, что мы, когда научились их решать, сделали это с использованием интеллектуальных систем.

- Мне кажется, что это какое-то притягивание за уши термина или определения интеллекта к чему-то научно-техническому, потому что интеллект всегда был признаком человека. Интеллект присутствует только в животном мире у человека, в мире живых существ, и надо определить, что такое в принципе интеллект. Интеллект – это всё-таки способность не только принимать решения, но их принимать на основе целого комплекса факторов, в частности, и морально-этических тоже. И это самое главное, что отличает всегда интеллект от просто способности осуществлять какие-то последовательные действия и делать их с виду, казалось бы, разумно.

- А мне кажется, что интеллект как раз не про разумность, а про способность обучать и на основе этого обучения дальше выстраивать свою жизнь и свои действия. Нет?

А. Незнанов: Надо ещё расширить рамки. Дело в том, что коллеги из Международной лаборатории экспериментальной и поведенческой экономики, знаменитый Ключерёв с компанией, занимаются тем, что сейчас называется "нейросайенсиз" (нейронауками). Когда мы говорим о том, что понимаем, наконец, как устроено мышление, получается, что нужна целесообразная деятельность в среде, нужны когнитивные способности. Особенностей мозга много, я, например, в лекциях по человеко-машинному взаимодействию выделяю не менее 22, и туда относятся не только классические принятия решений, но и, например, долговременная память, которая отличается от кратковременной, и т.д. Но всё это все равно приводит нас к тому, что кто-то умеет добиваться своих целей в конкретной среде, будь это человек, термит или робот.

- Но всё-таки, когда говорят о программе "Искусственный интеллект", в нашем совершенно конкретном случае на что будут потрачены совершенно сумасшедшие, с точки зрения большинства людей, деньги? Чем заниматься будут?

А. Незнанов: С этой точки зрения, ничем, потому что заниматься искусственным интеллектом – это в первую очередь разговаривать о нём и пытаться выдумать определение, говорить про этику искусственного интеллекта, о влиянии его на социум и т.п. Как только мы начинаем говорить о внедрении, мы никогда не говорим об искусственном интеллекте, а говорим о конкретных классах интеллектуальных систем, говорим о конкретных задачах и т.д.

- То есть, триллион рублей пойдут на разговоры? Вообще, триллион рублей – это на цифровую экономику, а искусственный интеллект – одна из программ. Думаю, на него немало будет выделено. Тогда миллиарды пойдут на разговоры?

А. Незнанов: А кто ж его знает. Дело в том, что программа "Цифровая Россия", которая сменила "Электронную Россию", которая сменила уже не помню как называвшуюся программу, все они пытаются угнаться за, как сейчас говорят, хайпом. И в данном случае на хайпе оказывается кусочек искусственного интеллекта, причём очень маленький. Если вы вспомните, о чём говорили участники форума, то они в основном говорили о машинном обучении. А это всего лишь малая часть искусственного интеллекта. В том числе они говорили о глубинном или глубоком машинном обучении, а это маленький кусочек всего машинного обучения, и так далее. То есть, рамки нужно либо расширить до всех отраслей, где это будет реально внедряться, а рамки этого есть и называются они "четвёртая промышленная революция" или "индустрия 4.0" в соответствии с термином, который ввели германские учёные, потом технологи, а затем и во всём мире этот термин утвердился.

- Сейчас у нас есть уже какие-то примеры действия искусственного интеллекта? Чтобы люди понимали? Где его пощупать можно?

А. Незнанов: Очень часто о нём говорят, как о ползучем проникновении. Вы достаёте свой смартфон, он вас опознаёт сразу с помощью камеры по лицу.

- Не все смартфоны так опознают владельцев. И опознают только, если он захочет, чтобы смартфон его опознавал. Автоматом он этого не делает.

А. Незнанов: Но он же может это делать. И это есть искусственный интеллект. Может он вас опознать по отпечатку пальца, но потом, проверив, что такой отпечаток пальца зарегистрирован у нескольких людей в мире, попытаться сказать, чтобы вы дали ему ещё один отпечаток, но другого пальца. Это тоже искусственный интеллект. Понимает он и то, что вы сейчас ему наговариваете в виде текста. И главное – за последние несколько лет он стал понимать настолько лучше, чем это было раньше, что можно теперь нормально надиктовывать текст и почти не бояться классических плохих ошибок. И это искусственный интеллект. Более того, в 2019 году впервые искусственный интеллект в смысле универсальных языковых моделей с точки зрения понимания письменного текста и главное – генерации письменного текста, превзошёл человека в классических тестах GLUE Bench, и сейчас на конец сентября уже пять разных моделей от OpenAI, Facebook, Microsoft и др. превзошли человеческий уровень.

- Был период времени, наверное, в конце 70-х и в 80-е годы, когда говорили о машинах, которые обыгрывают шахматистов. Это ведь тоже был пример искусственного интеллекта по большому счёту?

А. Незнанов: Несомненно. Пример интеллектуальных систем.

- То есть, это давным-давно существует, просто мы сейчас заговорили об этом, как будто это какое-то откровение, ого, до чего мы дошли. А оказывается, что это уже давно существует.

А. Незнанов: Ничего подобного. Дело в том, что существуют экспоненциальное развитие и линейное. И мы очень часто экстраполируем в будущее наши текущие представления и считаем, что дальше всё будет развиваться с той же скоростью, что и сейчас. И когда мы говорили об этом в 1997 году, когда Гарри Каспаров схватился за голову в предпоследней партии, сказав, что этого вообще не подозревал, то это был прорыв. Но мы говорили, а давайте рассматривать, что с такой же скоростью будет искусственный интеллект развиваться, а у него скорость развития экспоненциально увеличивается. И в результате 2017 год был признан на одной из конференций годом, в котором было по прорыву каждый день.

- На обычном языке это означает, что он развивался в геометрической прогрессии?

А. Незнанов: Ещё быстрее.

- Вы самые важные, которые затрагивают и пугают многих, моменты и примеры действия искусственного интеллекта не привели. Например, беспилотные автомобили…

А. Незнанов: Несомненно. Они меняют рынок труда.

- Это с одной стороны, а с другой стороны, это машина, которая принимает решение вместо человека, причём не только, соблюдать ли Правила дорожного движения, но и, например, кого в жертву выбрать: пешехода или пассажиров?

А. Незнанов: Несомненно. А вы проходили знаменитый тест от MIT, который называется Moral Machine ("Моральный автомобиль"). Коллеги сделали замечательный тест, и на весь мир его запустили. И уже есть первая статья по результатам о том, а как люди вообще для себя это решают. И оказалось очень странно. И как раз здесь мы вступаем на тонкую грань этики искусственного интеллекта. И тут как раз граница между сильным и слабым искусственными интеллектами начинает вырисовываться. Она вырисовывается не в технике, она вырисовывается у нас в социуме и нашем мозге.

- Просто мы даём себе право принимать эти решения. Мы даём себе право как человеку принимать решения, и порой это решение может быть нелогичным с точки зрения машины, может основываться действительно на каких-то морально-этических принципах, которые не имеют порой объяснения с точки зрения банальной логики. А машина будет принимать решение, исходя из математической логики.

- Нет, машина будет принимать решение исходя из того, что в неё заложил человек. Так ли?

А. Незнанов: Всё зависит от того, как мы устроим то самое машинное обучение как маленькую часть искусственного интеллекта. Только ли мы будем формальные знания закладывать в машину и запретим ей самой дообучаться или разрешим ей дообучаться и насколько. Например, сможет ли она свои некоторые базовые императивы отменять и говорить, что она больше не будет так действовать, учитывая те самые три закона робототехники, с которых мы начинали. Эти три закона робототехники, согласно которым машина должна не навредить человеку в первую очередь, как раз в повестке и возникают. Какому количеству людей не навредить? Когда вы говорите о дообучении, вы что имеете в виду? Современные нейросети как обучаются? Они постоянно получают дополнительную информацию. Проходя что-то, получают опыт. Условно говоря, машине надо задавить определённое количество пешеходов, чтобы принять решение, что пешеходов давить всё-таки не надо?

- Прозвучало слово "опыт", а мне кажется, что у искусственного интеллекта не опыт, искусственный интеллект обучается на том, что в него закладывает человек, на всём том массиве информации. Искусственный интеллект может с ума сойти? Найдётся ли вопрос, над ответом на который искусственный интеллект начнёт раздумывать?

А. Незнанов: Нет. Здесь мы слишком расширили рамки, потеряв объект, который как раз может сойти с ума или что-то ещё сделать. Мы сейчас говорим о слабом искусственном интеллекте, который не имеет собственного целеполагания. Машинка не может сказать, а давайте я вас повезу не в театр, а в морг. Она должна вас довезти в театр, если вы сказали, что вам туда нужно. Она в достаточно изменчивой среде дорожного движения, поведения пешеходов и прочего, может быть, поведения самолёта, который упадёт случайно, должна довезти вас в театр. И это императив.

- И на этом пути кто будет в приоритете? Конечно, пассажиры?

А. Незнанов: Нет, не факт. Всё зависит от того, как социум решит. Если мы будем стоять на позициях утилитаризма, то мы будем разбираться в каждом конкретном случае, а каковы результаты конкретных действий и ведут ли они к увеличению общего блага, как бы мы его ни понимали. Дальше можно задействовать ценности общества, ценности конкретного индивида и сравнить их, дать оценки. Например, этим всё время занимаются страховщики, и к этому все привыкли. И почему-то у страховщиков не спрашивают, а почему они человеческую жизнь оценивают в миллион дензнаков. А почему мы сейчас начинаем эти вопросы задавать?

- Очень хорошо, что мы начинаем эти вопросы задавать. Может быть, мы не совершим тех ошибок, которые совершали, когда создавали страховые компании?

А. Незнанов: Замечательно. Но тогда получается, что это вопрос не к искусственному интеллекту, а к естественному, к нашему.

- Искусственный интеллект все равно обучается на том, что в него вкладывает человек.

А. Незнанов: А вот это не верно. Потому что, если мы говорим о слабом искусственном интеллекте, мы можем любую процедуру обучения ему написать, причём жёсткую. Сейчас так всегда и делают. Более того, большинство нейросетей, когда они дообучились, дальше начинают работать, больше не обучаясь. Они доходят до определённого уровня и всё: дальше им нельзя двигаться, им как бы запрещают дальше обучаться и начинают использовать. Например, у вас в стиральной машине с 99-процентной вероятностью стоит небольшая нейросеть, выбирающая режимы стирки. И она не дообучается после завода. Но, возможно, завод что-то новое обнаружит и сменит вам прошивку. Например, "умный дом" как концепция предусматривает, что у вас могут развиваться в целом прошивки всех бытовых устройств. Но это все равно слабый искусственный интеллект, и все равно решение принимается вами. Вы можете согласиться или не согласиться, у вас есть лицензионное соглашение с заводом и т.д.

- А сильному искусственному интеллекту мы даём право на своё целеполагание. Говорим ему: "Товарищ СИИ, ты теперь можешь решать, что тебе делать. Но, пожалуйста, будь нам другом и не делай этого и того". Потому что этика искусственного интеллекта сейчас породила очень важное понятие, которое называется "дружелюбный искусственный интеллект". И это оказалось более плодотворно, чем, например, злой или не злой или добрый искусственный интеллект.

(продолжение слушайте на сайте)

Ссылка: https://www.radiorus.ru/brand/61244/episode/2214203