Интернет – поле боя новой глобальной информационной войны

Этичные и неэтичные алгоритмы интернет-платформ

Автор – Дмитрий Раевский

Современный мир сложно представить без Интернета – он уже стал неотъемлемой частью жизни общества, и в перспективе вовлечённость людей в глобальную информационную сеть будет только возрастать. По мере увеличения внимания возрастает и степень влияния информационного пространства на человека. Сегодня это пространство представляет собой не только кладезь знаний, но и поле боя новой глобальной информационной войны, ведущейся множеством игроков всеми доступными средствами.

Особую роль в Интернете играют медиаплатформы – социальные сети, видеохостинги, мессенджеры, блогплатформы и другие площадки, позволяющие пользователям вести свою личную страницы, публиковать и распространять записи. Ключевое отличие платформы от классического новостного сайта в том, что основной контент на платформе создаёт не редакция, а сами пользователи. Это позволяет формировать огромные потоки информации и вовлекать в жизнь площадки миллионы людей.

Вопреки иллюзиям масс, что платформы объективны и создают для пользователей равные условия обмена информацией и продвижения своей повестки – на самом деле это не так. Через механизмы «умной ленты», «рекомендаций», рекламы или откровенной цензуры хозяева платформы всегда могут сделать любого блогера популярным на своей площадке или наоборот – задвинуть неугодного на «задворки вселенной».

То есть, интернет-платформы гораздо эффективнее, чем классические новостные сайты, позволяют продвигать ту или иную информационную повестку (в том числе манипулировать массами).

Именно поэтому в мире ведётся ожесточённая война за контроль над крупными соцсетями и видеохостингами, а государства, не имеющие своих платформ, утрачивают контроль над ситуацией даже внутри своей собственной страны.

Однако, в случае с платформами дело не ограничивается только продвижением своей повестки и влиянием на массы через популяризацию того или иного контента. Сами алгоритмы медиаплатформы могут программировать различные виды поведения и мышления пользователей и по-разному на них влиять. В одних случаях это влияние будет благотворным, в других – вредным и отупляющим. Грубо говоря, миллионы людей, так или иначе вовлечённых в информационный обмен и в информационную войну, пользуясь медиаплатформами, могут становиться либо умнее, либо глупее.

В этой статье хотелось бы поднять вопрос этичности различных алгоритмов платформ. Многие из них кажутся вполне привычными, однако если задуматься об их влиянии на пользователей – то можно прийти к значимым выводам.

Приведу несколько наглядных примеров «неэтичных алгоритмов», чтобы разъяснить, о чём речь. К каждому вредному алгоритму постараюсь предложить альтернативу или некий механизм исправления ситуации.

Поощрение клипового контента

Некоторые социальные сети на уровне алгоритмов системы ориентированы на создание и распространение «информационного фастфуда», то есть краткой, быстрой, эмоциональной и малосодержательной информации. Регулярное погружение пользователя в подобный инфопоток приводит к формированию у него калейдоскопического (по-другому «хаотичного» мировоззрения), в котором бесчисленное количество разных несвязанных между собой фактов и образов образуют огромную информационную мусорку, препятствующую адекватному мышлению и поведению. Особенно опасно это явление в отношении детей.

Посмотрим на несколько популярных в России медиаплатформ, страдающих этой болезнью.

ТикТок – самая вредоносная с точки зрения алгоритмов клиповая соцсеть. Принудительное ограничение длительности контента до 15-60 секунд программирует творцов на поверхностно-деградационное творчество. В свою очередь зрители такого контента (чаще всего дети) формируют у себя хаотичное мировоззрение. Подробна эта тема раскрыта в видеоролике.

В значительной степени этим же страдают и такие площадки как Твиттер, Пикабу, Инстаграм – где исторически преимущество отдано визуальной или очень краткой информации. Хотя их вред всё же ниже, чем в случае с ТикТоком. Так как Твиттер в основном наполнен текстовой информацией (как минимум поэтому детям он не интересен), а Пикабу и Инстаграм допускают и формат заметок, статей и достаточно объёмных видеороликов или трансляций.

Каким образом можно противодействовать клиповому формату

1. Не ограничивать авторов по объёму публикуемого контента. Платформа должна позволять пользователю создавать подробные статьи или длинные видеооролики.

2. Поощрять объёмные публикации продвижением в умной ленте. Для этого на уровне алгоритмов системы надо увеличивать вес таких публикаций в умной ленте или создавать на сайте отдельные разделы/вкладки для привлечения внимания к таким материалам.

3. Пессимизировать клиповый контент, занижая показатели его распространения.

4. В случае, если на платформе в лентах и рекомендациях доминирует клиповый формат подачи информации, сайт должен иметь строгие возрастные ограничения и быть недоступен детям.

Скорее всего, можно найти и другие механизмы борьбы с клиповым контентом. Прошу делиться ими в комментариях к статье.

Стимулирование избыточного потребления информации

Профессор Корнельского университета Брайян Уансинк провёл эксперимент под названием «бездонные тарелки». В ходе него он показал, что можно заставить людей продолжать есть суп, подставив им бездонную тарелку, которая автоматически наполняется по ходу еды. Когда люди едят из такой «посуды», они потребляют на 73% больше пищи, чем при использовании нормальных тарелок.

Интернет-платформы эксплуатируют этот принцип. Новостные ленты специально спроектированы с «автонаполнением», чтобы вы продолжали скроллить и листать ленту новостей. Они намеренно лишены всего, что может заставить вас остановиться, оценить ситуацию и прекратить потребление контента.

Кроме того многие платформы в настройках «по умолчанию» включают автопроигрывание видео в ленте или автопроигрывание следующего видеоролика после просмотра текущего. Оба варианта вредны, так как стимулируют спонтанное потребление информации. Нормой является ознакомление с заголовком или картинкой записи, и осознанное принятие решения о просмотре. После просмотра у пользователя должно быть время обдумать и оценить увиденное, а не сразу же приступить к следующему видео.

Решение проблемы видится либо в удалении функций автоплей и бесконечной подгрузки ленты (она должна подгружаться по клику на кнопку), либо как минимум в том, что они должны быть выключены в настройках «по умолчанию» профиля пользователя.

Также полезно добавлять алгоритмы, информирующие пользователя о приблизительном времени чтения статьи, чтобы пользователь мог заранее оценить «истинную стоимость» предложенного выбора. Интернет должен быть оформлен с точки зрения удобного и понятного прогнозирования затрат и выгод, которые сулит каждый клик.

«Лайки/Дизлайки» и оценка информации с уровня эмоций

Нормой практически всех современных интернет-платформ является оценка информации смайликами или отметками «нравится/не нравится» («лайками/дизлайками»). Такой алгоритм оценки отучает пользователя соцсети от вдумчивого и критического анализа информации, стимулируя его к импульсивной эмоциональной оценке. Подробно проблема раскрыта в этом видеоролике.

Исправить данную систему можно путём дополнения или изменения алгоритма оценки на «полезно/не полезно» и различные близкие по содержанию варианты, стимулирующие пользователя задействовать при оценке в первую очередь аналитическое мышление, а не эмоциональную сферу.

Надо понимать, что текущее засилье в соцсетях аморального и вредного контента технически во многом обеспечено именно тем, что он зачастую более ярко и привлекательно оформлен, благодаря чему эффективно воздействует на эмоциональную сферу человека и как следствие – получает высокие оценки от пользователей. Если же массовую аудиторию начать постепенно приучать оценивать информацию в первую очередь по качеству содержания контента (а не за его оболочку), то это будет способствовать постепенной перестройке информационных потоков в сторону поощрения создания и распространения полезной информации, а вопрос внешнего оформления будет иметь второстепенное значение.

Если медиаплатформа посвящена какой-то узкой тематической сфере – например, оценке фильмов, то можно разрабатывать более сложные системы оценки, которые опять же будут способствовать вдумчивому подходу к процессу. Пример реализации такой системы представлен на сайте КиноЦензор.

Манипулирование выдачей постов в умной ленте

Умная лента большинства интернет-платформ построена по следующему принципу. Каждая публикация на сайте имеет свой «вес», на основании значения которого она подымается выше или ниже в ленте пользователей. Показатель веса формируется в результате учёта множества факторов, таких как количество просмотров, комментариев, оценок, дата публикации и так далее.

Администрация соцсети имеет возможность одним кликом поставить понижающий коэффициент не только на любую публикацию (в результате чего её прочтут не тысяча человека, а десять), но и на весь канал/сообщество/блог/страницу пользователя, тем самым закрыв ему пути к продвижению или даже полностью лишив имеющейся аудитории. Описанная выше ситуация получила в Интернете название «теневой бан».

Не имея доступа к алгоритмам системы, невозможно доказать, что в отношении того или иного канала применены повышающие или понижающие коэффициенты. Как следствие, этот инструмент манипулирования информационными потоками становится крайне соблазнительным для хозяев платформы, и может использоваться как с коммерческими, так и с идеологическими целями.

Безусловно существуют небольшие платформы, владельцы которых не используют подобный инструмент в корыстных целях. Но если говорить о мировых социальных сетях с миллионами подписчиков и пользователей, переплетением интересов государств и транснациональных корпораций, то будьте уверены, что там эти механизмы массово используются. Речь о ВКонтакте, Фейсбуке, Инстаграме, YouTube и других мировых площадках.

Возможное решение

Противостоять этому можно путём создания интернет-платформ с открытым кодом, когда любой программист (или команда программистов) может заглянуть внутрь системы и оценить, что там происходит, а в идеале и скопировать код для запуска своей аналогичной платформы, если первая себя начинает дискредитировать неэтичным действиями. Сегодня такие платформы уже появляются, примером тому социальная сеть Bastyon. Несмотря на названное преимущество, к сожалению, на текущий момент на ней доминирует клиповый формат информации и есть ряд других недостатков.

Этичные и неэтичные механизмы монетизации

Перед каждой крупной интернет-платформой встаёт вопрос монетизации своей деятельности. И дело не только в желании владельцев сайта заработать, но и в больших затратах на поддержание работы и развитие платформы: оплата труда программистов, дизайнеров, модераторов, стоимость хостингов и многое другое.

Соответственно практически всегда владельцы сайта вынуждены искать механизмы заработка. Ниже я перечислю некоторые из тех, которые, на мой взгляд, имеют право на жизнь и тех, которые надо постепенно искоренять как вредные.

Примеры неэтичной монетизации

• Коммерческая реклама

Платная реклама, по сути, является продажей внимания пользователей. Рекомендовать или рассказывать о том, что ты считаешь полезным, – это нормально. Рекламировать что-то за деньги и тем самым продавать своих подписчиков или пользователей – это плохо. Речь не только об интернете, но и в целом об индустрии маркетинга.

• Коммерческое продвижение публикаций

Нарушает баланс в пользу тех, у кого больше денег. Любые купленные просмотры/показы отнимают их у тех авторов, которые не имеют возможности платить.

• Коммерческое стимулирование развития аккаунтов

На многих сайтах есть системы роста пользователей. Нельзя давать преимущества в развитии тем, у кого больше денег.

Примеры этичной монетизации

• Донаты от пользователей и Краудфандинг

Это самый правильный вариант монетизации любой общественной интернет-платформы. Однако в современном мире в большинстве случаев его недостаточно для обеспечения работы крупного ресурса. Но по мере роста осознанности общества, этот механизм должен постепенно выходить на первое место по значимости.

• Платные аккаунты с дополнительными функциями, не влияющими на продвижение контента или развитие аккаунта.

Вариантов подобных функций может быть много – например, дополнительные возможности по оформлению канала, доступ к различной статистике, быстрое взаимодействие со службой поддержки и т.д.

• Получение комиссии с финансовых операций пользователей сайта

Подходит для тех платформ, которые содержат инструменты коммерческих отношений пользователей друг с другом, и могут брать комиссию за предоставляемые услуги – например, по продаже учебных курсов.

И другие.

На этом перечисление этичных и неэтичных алгоритмов в этой статье хотелось бы завершить и напоследок ещё раз акцентировать внимание на главном.

О важности обсуждения темы

Любая интернет-платформа – это сотни и тысячи алгоритмов, каждый из которых с одной стороны обеспечивает работу сайта, а с другой – влияет на пользователей. И как видно даже из этой небольшой статьи, это влияние может быть абсолютно разным – как полезным, так и вредным. Однако несмотря на то, что миллиарды людей сегодня ежедневно взаимодействуют с крупными площадками, мало кто из них задумывается об этом влиянии, а если и задумывается – то редко переводит разговор в практическую плоскость, дающую ответ на вопрос «что и как можно изменить, и как это повлияет?»

Между тем, этот разговор необходим. Конечно, понимание того, какие алгоритмы более правильные, не позволит одномоментно создать большую платформу, обеспечивающую справедливый обмен информацией её участникам, и привлечь на неё миллионы пользователей. Так как в практике жизни разработка любого сложного сайта – это всегда некий компромисс из желаемого и возможного. Тем не менее, появятся некоторые ориентиры, к которым можно будет стремиться в тех случаях, когда будут появляться соответствующие возможности.

Поэтому данная статья – это призыв обратить внимание на влияние алгоритмов и начать широко обсуждать эту тему как специалистам, имеющим отношение к разработке сайтов, так и обычным пользователям.

При этом важно говорить о том, что алгоритмы могут быть этичными, то есть дружественными к развитию человека в интеллектуальном и нравственном аспектах, и неэтичными – то есть способствующими деградации пользователей. Массовое обсуждение этой темы приведёт к появлению более дружелюбных к человеку платформ и как следствие – к постепенному изменению всего информационного пространства.

Источник

Как работает «умная лента» соцсетей? Что такое «теневой бан»?

Технология подмены: «Лайки / Дизлайки» вместо «Полезно / Не полезно»

TikTok – инструмент формирования клипового мышления

Информационная война в Интернете. Можно ли остаться в стороне?

Более подробную и разнообразную информацию о событиях, происходящих в России, на Украине и в других странах нашей прекрасной планеты, можно получить на Интернет-Конференциях, постоянно проводящихся на сайте «Ключи познания». Все Конференции – открытые и совершенно безплатные. Приглашаем всех просыпающихся и интересующихся…