Центр искусственного интеллекта НИУ ВШЭ

Искусственный интеллект в информационных процессах: алгоритмизация выбора, ограничение и ответственное медиапотребление

Информационно-медийного потребление, происходящее в цифровой среде, находится сегодня в тесной связи с алгоритмами, построенными на принципах искусственного интеллекта, машинного обучения и прочего, что в свою очередь приводит к трансформации самой медиасреды.

• Гибридизация массовой и интерперсональной коммуникации в условиях цифровых платформ социальной коллаборации (mass self-communication). 

Меняются модели распространения информации, в частности вызывая вирусное (виральное) ее распространение.

• Просьюмеризм, гибридизация производства и потребления информации и развлечений. 

Происходит усложнение информационного пространства, оно включает в себя не только информацию, произведенную специалистами, но и любителями в рамках добровольной коллаборации, называемой «культурой соучастия». Потребление информации сегодня – это участие в ее производстве и дистрибуции.

• Ликвидация посредников и существенное удешевление стоимости обращения к аудитории.

Любой коммуникатор имеет возможность напрямую вступать в контакт с аудиторией, используя общедоступные платформы массовой коммуникации и избегая информационных посредников. Информационное пространство представляет собой смешанный набор сообщений от профессиональных производителей, работающих на аудиторию, и от коммуникаторов, обслуживающих преимущественно собственные интересы (политические, экономические и другие).

В такой комплексной медиасреде обычному потребителю крайне сложно ориентироваться, что упрощает попытки манипуляции контентом массовых информационных сервисов с целью получения определенных политических и других эффектов. «Фейковые новости», «постправда», разнообразные конспирологические теории, теории заговора и их распространение в цифровом пространстве становятся естественными в новой цифровой информационной парадигме. Наступает информационная перегрузка, которая в условиях цифровых алгоритмизированных платформ только возрастает.

Долгое время общим местом в социальных науках было предположение о том, что медиапотребителю можно помочь, реализую параллельно два процесса: развитие ответственного медиапотребления (медиаграмотности) и развитие автоматизированных информационных сервисов, которые помогают ориентироваться в большом наборе контента, сортируют медиаресурсы по степени достоверности, помогают пользователям формировать нужные информационные предпочтения, т.е. «вооружение» пользователя арсеналом автоматизированных средств для выявления «фейков».

Однако бурное развитие алгоритмов, в том числе автоматизированной проверки информации, автоматизированных рекомендательных сервисов, систем определения релевантности информации (и регулирование выдач пользователю на основе такой релевантности), может приводить к обратному процессу: потребитель информации все меньше готов проверять новости самостоятельно и все больше доверяет алгоритмам. Алгоритмы плавно подменяют собой рациональный выбор, приравниваются к рациональности как таковой, при том, что они сами по себе не являются нейтральными, в результате автоматизированные технологии функционируют как фреймы (рамки, разделяемые людьми).

Представленный проект включает в себя два направления медиаисследований:

1. изучение специфики медиапотребления сфабрикованных информационных сообщений (фейков) в разных коммуникационных средах и медиаплатформах; разработка рекомендаций для создания публичного бесплатного онлайн-сервиса для верификации текстовой информации, обнаружения манипулятивных приёмов и приёмов некорректной подачи информации в текстовых сообщениях и т.д.;

2. изучения степени доверия алгоритмам автоматизированных сервисов проверки достоверности информации и рекомендательных сервисов; изучение тенденциозности алгоритмов и того, как они задают рамки для повседневного информационного поведения.

Команда проекта

Кирия Илья Вадимович

Руководитель проекта

Довбыш Ольга Сергеевна

Научный работник