Цель проекта
Исследовать и разработать интеллектуальные механизмы распознавания фейков и информационной манипуляции
Актуальность
В современном мире медиапотребление тесно связано с алгоритмами, основанными на технологиях искусственного интеллекта и машинного обучения. Это приводит к изменениям в самой медиасреде.
- Во-первых, происходит гибридизация массовой и интерперсональной коммуникации в рамках цифровых платформ социальной коллаборации. Это явление называется mass self-communication.
- Во-вторых, наблюдается просьюмеризм — гибридизация производства и потребления информации и развлечений. Сегодня потребители информации активно участвуют в ее производстве и распространении.
- Третий важный момент — ликвидация посредников и снижение стоимости доступа к аудитории. Информационное пространство состоит из сообщений от профессиональных производителей и коммуникаторов, которые обслуживают свои интересы.
Такая сложная медиасреда может вызывать информационную перегрузку у обычного потребителя. Люди все меньше проверяют новости самостоятельно и все больше полагаются на алгоритмы. Однако эти алгоритмы не являются нейтральными и могут влиять на рациональный выбор потребителей.
Задачи проекта
1. Описание специфики медиапотребления сфабрикованных информационных сообщений (фейков) в разных коммуникационных средах и медиаплатформах
2. Разработка рекомендаций для создания публичного бесплатного онлайн-сервиса для верификации текстовой информации, обнаружения манипулятивных приёмов и приёмов некорректной подачи информации в текстовых сообщениях и т.д.
3. Определение степени доверия алгоритмам автоматизированных сервисов проверки достоверности информации и рекомендательных сервисов; описание тенденциозности алгоритмов и того, как они задают рамки для повседневного информационного поведения
Команда
Руководитель проекта
Научный сотрудник
Профессор
Доцент
Аспирант
Публикации
-
ZenPropaganda: A Comprehensive Study on Identifying Propaganda Techniques in Russian Coronavirus-Related Media
Anton Chernyavskiy, Svetlana Shomova, Irina Dushakova, Ilya Kiriya, Dmitry Ilvovsky
Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC–COLING 2024)
Подробнее -
Truth-O-Meter: Handling Multiple Inconsistent Sources Repairing LLM Hallucinations
Boris Galitsky, Anton Chernyavskiy, Dmitry Ilvovsky
SIGIR '24: Proceedings of the 47th International ACM SIGIR Conference on Research and Development in Information Retrieval
Подробнее -
WhatTheWikiFact: Fact-Checking Claims Against Wikipedia
Anton Chernyavskiy, Dmitry Ilvovsky, Preslav Nakov
CIKM '21: Proceedings of the 30th ACM International Conference on Information & Knowledge Management
Подробнее