Вестник цифровой трансформации CIO.RU

Куда приводит «цифра»: цифровые технологии убеждения
Куда приводит «цифра»: цифровые технологии убеждения




14:38 10.12.2020  |  3132 просмотров



«Ростелеком» представил результаты исследования «Мировые тенденции, перспективные сценарии развития и использования новых коммуникационных интернет-технологий».

Один из ключевых выводов исследования заключается в том, что во всех современных каналах коммуникаций (мессенджеры, социальные сети, поисковики, видеосервисы, маркетплейсы и даже онлайн-игры) ведущую позицию постепенно завоевывают технологии искусственного интеллекта, адаптирующие или имитирующие контент под конкретного пользователя. В противовес этому тренду активно развиваются сервисы по разоблачению разного рода фейков.

В исследовании новые коммуникационные интернет-технологии разделены на две части:

  • основные — мессенджеры, социальные сети, музыкальные и видеосервисы, коммуникационные и игровые платформы и другие;
  • вспомогательные — поисково-рекомендательные сервисы, а также различные решения для адаптации и генерации контента (в том числе фейкового).

По основным сервисам расклад сил давно сформирован и довольно стабилен, только новые игроки (например, социальная сеть TikTok) в отдельных возрастных группах замещают «ветеранов». Можно отметить расширение функционала и сфер применения различных сервисов. Например, компьютерные игры перестают быть просто развлечением, они трансформируются в новые площадки для коммуникаций и обучения. В Minecraft проходят онлайн-концерты и театральные постановки, ведущие музеи мира организуют свои виртуальные пространства, а в игре Half-Life пользователям дают уроки геометрии. А вот по поисковым и рекомендательным системам, сервисам персонализации, создания и распространения контента ситуация очень динамичная — здесь появляется все больше новых решений с использованием технологий искусственного интеллекта.

Рекомендательные системы, основанные на технологиях глубокого обучения, способны учитывать бесконечное количество самых разных факторов, влияющих на восприятие человека. Продвинутая система предложит музыкальную подборку не только с учетом истории и отметок слушателя о любимых стилях, но также учтет его эмоциональное состояние, интересы в других областях, предпочтения пользователей со схожими интересами (социология малых групп) и другие факторы. В исследовании закономерно делается вывод, что такой глубокий таргетинг, может включать «незаметное» манипулятивное воздействие и касаться не только музыки, но, например, выбора товара или партнера.

С распространением приложений для монтажа, компьютерной графики и других технологий постепенно размывается грань между профессиональным и любительским контентом. Появляются инструменты для автоматизированного создания контента, включая дипфейки. На этом фоне растет спрос на решения, которые позволяют проверять достоверность информации и выявлять фейки. В исследовании приведен подробный анализ большинства существующих методов и средств выявления недостоверного контента, в том числе с применением технологий искусственного интеллекта (например, идентификация значительных изменений видео и изображений, а также анализ метаданных и содержания публикаций, фактчекинг и выявление цепочек распространения дезинформации), а также методов защиты видео и изображений от нежелательных изменений (например, покрытие изображений и видео невидимым фильтром, защищающим от изменений).

По словам  авторов, исследование показывает, что технологии искусственного интеллекта все глубже проникают в коммуникации, формируя, а порой ограничивая, контент для пользователя. Самые продвинутые поисковые и рекомендательные сервисы учитывают передовые исследования в области психологии, неврологии и социологии, такие системы способны уже сейчас учитывать даже эмоциональное состояние человека. По сути, можно говорить о появлении сегмента цифровых технологий убеждения и очевидно, что у него огромные перспективы в самых разных сферах жизни.