Этическая экспертиза в сфере искусственного интеллекта

Это исследование нацелено на выработку принципов и стандартов оценки для проведения гуманитарной (этической) экспертизы, необходимой как на этапе разработки, так и на этапе внедрения систем искусственного интеллекта в различных общественных сферах. Задача экспертизы – обеспечение открытости в деятельности корпораций, занимающихся разработкой ИИ, усиление как государственного, так и общественного контроля над ними как одного из действенных факторов обеспечения их транспарентности и социальной ответственности, а также общедоступности результатов их инновационной деятельности; проведение социально-гуманитарных исследований с целью определения основных точек конфликта и компромисса между общественным мнением и позицией государственных органов власти по проблеме разработки, внедрения и использования технологий ИИ в общественно-политической практике, а также в медицинских целях. Сопутствующая задача – выявление и обоснование новых рисков, связанных с возможным ущемлением прав человека, а также поиски новых теоретических и практических решений в сфере межличностной коммуникации и этики.

К числу рисков применения систем искусственного интеллекта, требующих осмысления и предупреждения, следует отнести следующие:

1. Риск бесконтрольности, предвзятости и необъективности принятия решений в ситуации полного доверия системам ИИ в социально значимых сферах;

2. Риск нарушения приватности и конфиденциальности персональных данных;

3. Риск увеличения неопределенности в ходе развития и совершенствования систем ИИ и негативных следствий их широкомасштабного применения, возрастания недовольства со стороны общества их использованием и непредсказуемости общественной реакции на ошибки ИИ;

4. Риск увеличения социальной и психологической изоляции людей, утраты социальной коммуникации, увеличения социальной разобщенности, как следствие – повышение уровня конфликтности отдельных людей и увеличение социальной напряженности в целом;

5. Риск увеличения социальной напряженности в силу создания условий для углубления социальной дифференциации и нарушения прав человека, например, права на равенство возможностей и защиту уязвимых контингентов.

В рамках проекта реализуется научный семинар «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий».