Ученые Центра ИИ НИУ ВШЭ решают вопросы этики в сфере ИИ

«Мне всегда было интересно делать то, что приносит пользу в спасении чьей-то жизни, или, как минимум, повышении ее качества»

Photo by Mihaela Rosu

Интервью с Анастасией Углевой, руководителем проекта «Этическая экспертиза в сфере ИИ»

Расскажите, о чём и для кого ваш проект?

Наш проект посвящен вопросам этической экспертизы, методологии оценки моральных и экзистенциальных рисков, возникающих при разработке, диагностике и внедрении систем искусственного интеллекта. Работа была специфицирована под задачи медицинского искусственного интеллекта, поскольку медицина – область, так или иначе затрагивающая интересы каждого, а значит с развитием технологий возникает необходимость учитывать гуманитарные риски их внедрения. Для этого требуется не только внешнее понимание такой необходимости, но согласие и запрос на такую экспертизу внутри самого профессионального медицинского сообщества. К сожалению, пока такой запрос не очевиден. Иначе говоря, у нашего проекта двойная задача – с одной стороны, обозначить контуры этической экспертизы, предложить конкретные методологические подходы для ее проведения, а с другой – сформировать более осознанный запрос на этическую экспертизу как со стороны пациентов, так и со стороны медицинского сообщества.

 

Насколько актуален сейчас вопрос этики в сфере ИИ?

Актуален как никогда! Часто этическое подменяют правовым, моральную норму неоправданно сводят к юридической, игнорируя все то, что не поддается кодификации и измерению. Эта позиция ограниченная и даже ущербная, она противоречит человекоориентированности и риск-ориентированности в разработке технологий, которые уже названы в Национальном кодексе этики в сфере ИИ в качестве системообразующих, но в действительности таковыми все еще не являющихся.

 

Какие технологии ИИ необходимы для подготовки проекта?

Технологии ИИ, возможно, потребуются на этапе апробации нашей методики, но пока мы не пишем алгоритмы, а разрабатываем дизайн ценностей, без которого такая экспертиза невозможна в принципе.

 

С какими трудностями, рисками вы сталкиваетесь в процессе работы?

Есть две, на мой взгляд, ключевые сложности в работе с данным материалом. Одна внешняя, вторая – внутренняя. Первая связана с предрассудком, заключающимся в том, что этика как философская дисциплина работает с абстрактными сюжетами, опирается на идеи, которые не являются практикоприменимыми. Поэтому, если следовать Кантовскому разделению легального и морального поступков, разница между которыми в том, что первый совершается в соответствии с установленным нормативным порядком, но побуждаем при этом какими-то случайными причинами, вроде страха или стремления быть счастливым, тогда как второй, напротив, совершается исключительно из уважения к моральному закону и не детерминирован той или иной склонностью или предубеждениями человека, то трудно доказывать условному заказчику исследования или партнеру, что продукт нашей работы может иметь ощутимый коммерциализированный результат, не только в работе с легальными поступком, но и в работе с долгом. Этика сегодня не востребована с экономической точки зрения, так что «продать» свое исследования довольно проблематично.

Что касается внутренней сложности в работе с этическими рисками, то она состоит в том, что большая часть этических норм в принципе не кодифицируема, не поддается измерению, непосредственно связана с экзистенциальным опытом человека, а потому работа с ценностями и попытка их включения в коды алгоритмов всегда сопряжена с риском когнитивных искажений, неопределенности результата и в конечном счете ошибок.

 

Расскажите о семинаре, который реализуется в рамках проекта.

Речь идет о регулярном семинаре под названием «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий». Он реализуется на базе Школы философии и культурологии НИУ ВШЭ при поддержке НСМИИ РАН. У нас две ключевые задачи. Во-первых, мы занимаемся популяризацией своей науки, пытаемся просто и понятно говорить о важном. Вместе с тем, в качестве спикеров мы приглашаем профессиональных философов, врачей, разработчиков программного обеспечения, социологов, когнитивных психологов, нейробиологов и даже представителей разных религиозных конфессий, которые способны сформулировать авторитетное мнение относительно внедрения тех или иных технологических инноваций в широкую общественную практику, выявляя те этические и правовые риски, без которых ни технология не может вызывать необходимого доверия, ни общество не может быть названо нравственно зрелым. Все это требует широкого обсуждения, диалога с обществом и властью, чтобы фактическое внедрение этих технологий, лишенное этого диалога, не приводило к катастрофическим для человека последствиям.

 

Привлекаете ли вы для работы над проектом студентов и аспирантов, какую работу они выполняют?

Да, конечно. Это одно из условий проектной деятельности в Вышке. В нашем случае ребята помогают, в первую очередь, организационно, но то, что мы отбираем для работы в группе тех студентов и аспирантов, у которых есть устойчивый и давно сформировавшийся профессиональных интерес к занимающей нас проблеме, позволяет использовать их интеллектуальные ресурсы для совместных исследований в той же мере, что и возможности старших коллег. Они пишут обзоры литературы, оттачивая соответствующие навыки, анализируют последние тенденции в развитии проблематики в других областях знания или в других странах, будучи таким образом внутри актуальной повестки, наконец, активно участвуют в подготовке материалов для работы со студентами, например, в рамках летних и зимних школ. Без этой очень важной части работы нам будет сложно найти себе союзников среди молодежи. А их надо суметь убедить в целесообразности подобных исследований.

 

Какие этапы проекта уже завершены? Довольны ли вы результатом?

Быть полностью довольным результатом – значит стоять на месте. В целом, конечно, результат есть, и он существенно отличается от того, с чего мы начинали. В общем, в мировой практике практически отсутствуют такого рода глубинные исследования этических проблем в сфере ИИ, в этом смысле мы продвигались по непаханому ранее полю, постоянно натыкаясь на семантические ловушки и недобросовестность доморощенных «этиков», которые решают вопросы морали не свойственными ей методами, разрушая тем самым саму мораль. Мы решили ключевые методологические задачи и теперь начинается самое интересное – разработка продукта – методики этической экспертной оценки, для которой придется найти технический способ совместить алгоритмическую рациональность с ценностными установками так, чтобы система была способна избегать фатальных ошибок.

 

Какими вы видите финальные результаты проекта?

Разработка методики, ее апробация и принятие в качестве руководства для работы этических комитетов в соответствующих областях знания и практики, а также для регулярного этического сопровождения новейших разработок ИИ в медицине от проектирования и диагностики до внедрения и оценки его последствий в долгосрочной перспективе.

 

Как повлияют результаты проекта на нашу повседневную жизнь?

Проект уже стал органической частью нашей профессиональной жизни. Для профессионального философа быть понятым и востребованным в совершенно иной профессиональной среде – это благо, подтверждение состоятельности его исследований. Не знаю, как на повседневной жизни это отразится, но на профессиональной жизни – точно. Мне всегда было интересно делать то, что приносит конкретные ощутимые плоды, пользу в решении насущных задач, в спасении чьей-то жизни, или, как минимум, повышении ее качества. Если это получится, то изначально легальное имеет шанс стать моральным в нашей собственной деятельности.