Рус Eng Cn Перевести страницу на:  
Please select your language to translate the article


You can just close the window to don't translate
Библиотека
ваш профиль

Вернуться к содержанию

Социодинамика
Правильная ссылка на статью:

Свобода выбора и сетевые «эхо-эффекты» информационного потребления

Леонтьев Глеб Дмитриевич

кандидат философских наук

доцент, кафедра общей философии, Казанский (Приволжский) федеральный университет

420008, Россия, республика Татарстан, г. Казань, ул. Кремлевская, 35

Leontyev Gleb Dmitrievich

PhD in Philosophy

Associate Professor, Department of General Philosophy, Kazan (Volga region) Federal University

35 Kremlevskaya str., Kazan, 420008, Russia, Republic of Tatarstan

leontyeval@icloud.com
Другие публикации этого автора
 

 
Леонтьева Людмила Станиславовна

кандидат философских наук

доцент, кафедра государственного и муниципального управления, Казанский (Приволжский) федеральный университет

420008, Россия, республика Татарстан, г. Казань, ул. Кремлевская, 18

Leontieva Ludmila Stanislavovna

PhD in Philosophy

Associate Professor, Department of State and Municipal Administration, Kazan (Volga Region) Federal University

420008, Russia, Republic of Tatarstan, Kazan, Kremlevskaya str., 18

lsl3@yandex.ru
Другие публикации этого автора
 

 

DOI:

10.25136/2409-7144.2024.1.68951

EDN:

KWSJOI

Дата направления статьи в редакцию:

12-11-2023


Дата публикации:

02-02-2024


Аннотация: Механизмы персонализации медиа и размежевание в сетевом общении по принципу единомыслия стимулируют формирование «эхо-камер» и «пузырей фильтров». Социально-сетевой феномен, обозначенный данными метафорами, является предметом исследования, а сами понятия рассматриваются как близкие, но не тождественные. Цель исследования – выявление факторов, влияющих на действенность алгоритмов фильтрации, на способность пользователя к осознанному выбору и самоорганизации в процессе информационного потребления. Анализ причин и следствий избирательных стратегий информационного онлайн-потребления осуществлен на основе коммуникативно - деятельностного подхода, теории виртуальной реальности Ж. Бодрийяра, концепций цифровых медиа К. Санстейна, Э. Паризера и Р. Флетчера. В качестве эмпирической базы использованы результаты зарубежных и отечественных исследований коммуникативных практик на разных социальных платформах.  Представленные в научной литературе исследовательские подходы позволяют акцентировать внимание на технологическом и логико-смысловом ракурсе анализа устойчивых форм сетевого общения. По мнению авторов, взаимообусловленность алгоритмов фильтрации и ценностных доминант информационного потребления, оставляет пользователю шанс на самостоятельный выбор «потребительской корзины». Подчеркивается двойственность в получении персонализированного контента: с одной стороны, это удобство, экономия усилий, с другой - одномерность картины мира в информационном пузыре. Исходя из этого, свобода выбора охарактеризована как право на активный выбор и право не выбирать, осознанно делегируя его нейросетевым фильтрам. В заключение авторами определены внутренние и внешне-сетевые факторы снижения действенности алгоритмов фильтрации: интерпретация искусственным интеллектом пользовательского поведения; функционирование рациональной конфронтационной коммуникации; конъюнктурность концептуализации эхо-эффектов; наличие средств осознанного противодействия. Выделены стимулы разумного информационного потребления, технологические и когнитивные способы защиты и рационализации пользовательского поведения.


Ключевые слова:

информация, выбор, информационное потребление, алгоритмы фильтрации, предвзятость подтверждения, пузырь фильтров, эхо-камера, коммуникация, онлайн-платформы, виртуальность

Abstract: The mechanisms of media personalization and separation in network communication on the principle of like-mindedness stimulate the formation of "echo chambers" and "filter bubbles". The social network phenomenon indicated by these metaphors is the subject of research, and the concepts themselves are considered as close, but not identical. The purpose of the study is to identify factors affecting the effectiveness of filtering algorithms, the user's ability to make informed choices and self–organization in the process of information consumption. The analysis of the causes and consequences of selective strategies of online information consumption is carried out on the basis of the communicative - activity approach, the theory of virtual reality Zh. Baudrillard, concepts of digital media by K. Sunstein, E. Pariser and R. Fletcher. The results of foreign and domestic studies of communication practices on various social platforms are used as an empirical basis. The research approaches presented in the scientific literature allow us to focus on the technological and logical-semantic perspective of the analysis of stable forms of network communication. According to the authors, the interdependence of filtering algorithms and value dominants of information consumption leaves the user with a chance to independently choose a "consumer basket". The duality in obtaining personalized content is emphasized: on the one hand, it is convenience, saving effort, on the other - the one-dimensionality of the world picture in the information bubble. Based on this, freedom of choice is characterized as the right to active choice and the right not to choose, consciously delegating it to neural network filters. In conclusion, the authors identified internal and external network factors for reducing the effectiveness of filtering algorithms: the interpretation of user behavior by artificial intelligence; the functioning of rational confrontational communication; the opportunistic conceptualization of echo effects; the availability of means of conscious counteraction. Incentives for reasonable information consumption, technological and cognitive ways of protecting and rationalizing user behavior are highlighted.


Keywords:

information, choice, information consumption, filtering algorithms, confirmation bias, filter bubble, echo chamber, communication, online platforms, virtuality

Динамика цифровизации и медиатизации общества порождает как технологические, так и социально-коммуникативные эффекты. Онлайн-платформы социальных сетей – это технологии виртуализации социальной реальности. «Человечество, - по словам Ж. Бодрийяра, - решило клонировать свою телесность и своё имущество в другой, отличной от прежней, вселенной», в которой «царствует простая информативность, просчитываемость, исчислимость» [1]. Виртуальность симулятивно подменяет собой реальность, интенсивно поглощая жизненный мир повседневности. Скорость, масштаб, глубина проникновения информации посредством социально-сетевых взаимодействий сопоставима с вирулентностью инфекционного агента. По следам недавней пандемии, в русле эпидемиологических аналогий, заражение вирусной информацией связано с иммунологической резистентностью организма, со способностью патогена преодолевать защитные барьеры. То есть «вирулентность» виртуальных объектов зависит как от свойств, «упаковки» информационных продуктов, так и от восприимчивости индивида и сообщества к массовой информации.

Способность виртуальности создавать иллюзию собственной реальности прослеживается на примере клиентоориентированного формирования «уникальной информационной вселенной для каждого из нас» [2]. Эта образная формулировка принадлежит американскому политическому интернет-активисту Эли Паризеру и обозначает, введенный им термин, «bubble filter» - пузырь алгоритмов, фильтров, инфопузырь. Внешне информационный пузырь выглядит как «экосистема из привычных приложений, избранных платформ и новостных агрегаторов, а также набора «подписок» и личных «представительств» (страничек) в социальных сетях» [3, с. 13]. Перечисленные информационные посредники выборочными поставками информации спасают человеческую психику от информационной перегрузки, но те же самые алгоритмы селекции, сужают поле обзора, предоставляя информацию, усиливающую предпочтения индивида и подтверждающую его укорененные представления. В результате создается эффект акустической волны, отраженной от стен пузыря-камеры, которую удовлетворенно принимает реципиент по принципу «тихо сам с собою» и с себе подобными. Об этом эффекте предупреждал профессор Касс Санстейн более двух десятилетий назад в своей книге «Эхо - камеры» [4]. Интенсивное развитие социально-сетевых взаимодействий, информационная избыточность в связке с информационным консьюмеризмом актуализируют проблематику побочных действий онлайн-коммуникаций. Поэтому целью данной статьи является выявление факторов, влияющих на действенность алгоритмов контент-фильтрации социальных платформ, на способность пользователя к осознанному выбору в процессе информационного потребления.

Эхо-техники в психологии коммуникации появились задолго до эпохи социальных сетей, в их основе - эффект усиления воздействия через вербальное и невербальное повторение. В онлайн-коммуникациях эхо-эффект создают избирательные стратегии сетевого поведения, которые базируются на человеческой потребности в самоидентификации, в принятии - подтверждении извне собственных чувств и размышлений, в приумножении своих сил и ресурсов через принадлежность к сообществу. Поэтому эхо-камера представляет собой «сложный феномен спонтанного образования устойчивых форм сетевого общения» [5], т. е. ситуационно обусловленное пространство единомыслия. По данным отчёта Global Digital 2023, 64,4 % мирового населения имеют доступ в интернет, 60 % пользуются социальными сетями, среднестатистическое время пребывания в сетях - 4 минуты из каждых 10 минут онлайн. Социальные сети в качестве источника получения новостей в интернете назвали 30 % респондентов, поисковики – 25 %, агрегаторы – 8 %. Влияние платформ-посредников растет, а сайты и приложения СМИ используются все меньше: в 2018 г. – 32 %; в 2023 г. – 22 % [6]. По сравнению с прямым доступом к привычным новостным сайтам алгоритмы платформ повышают степень разнообразия источников получаемой информации. В тоже время, поисковые системы настраиваются на основе предпочтений пользователей, которые осуществляют свой выбор на основе предложений алгоритмов. «Вы оказываетесь в ловушке, в «я» - петле», обнаруженной Эли Паризером более десяти лет назад: «Ваша идентичность формирует ваше медиапотребление, но затем медиа формируют ваши убеждения и области интереса» [2, с. 139]. Механизмы персонализации медиа совмещаются с базовыми когнитивными искажениями, такими, как «селективная восприимчивость» и «предвзятость подтверждения», которые перекочевали из оффлайн-среды в онлайн-пространство вместе с субъектами-носителями, поскольку позволяют пользователям избегать различий, приводящих к психологическому дискомфорту.

Количественную оценку важности мотива «подтверждения убеждений» в формировании спроса на новости дали американские исследователи (F. Chopra, I. Haaland, Chris. Roth) [7] на основе нескольких масштабных экспериментов с избирателями. Изучалась готовность людей подписаться на информационный бюллетень в зависимости от подачи новостного контента: от политически беспристрастного подхода с достоверной фактологией до предвзятого, политически ангажированного (правый, левый). Ключевые параметры предпочтений показали, что респонденты снижают свой спрос на «предвзятые новости» только в том случае, если данный вид предвзятости несовместим с их собственными политическими убеждениями. Отмечая способность предвзятых новостей усиливать политическую поляризацию и рост популизма, исследователи констатировали наличие потребительского компромисса: равнозначность мотива информационной достоверности и мотива «предвзятости подтверждения» [7, с. 29]. Следовательно, объективность, доказательность, точность предоставленных аудитории социальных фактов не гарантирует медийного успеха. Базис современных информационно-экономических отношений, так называемого, «надзорного» (Шошана Зубофф) [8], «платформенного» (Ник Срничек) [9], «коммуникативного» (Джоди Дин) [10] капитализма – это маркетинговая подстройка под конкретного потребителя, оптимизация технологической цепочки создания журналистского продукта как востребованного товара. Доставка индивидуально актуальной информации, то есть возможность персонализации или таргетирования осуществима, благодаря цифровому следу пользователя. Например, анализ лайков / дизлайков, учет предшествующих пользовательских действий с аналогичным контентом, посты, история поиска позволяют сформировать цифровой портрет, включающий не только список предпочтений, но и прогностические сценарии поведения медиапотребителя.

Особенности потребительского поведения, обусловленные рассмотренными психологическими механизмами «предвзятости» и «селективности», - это не только потребление тематически определенного, ценностно-смыслового контента, но и направленность социальных взаимодействий на онлайн-платформе. Учитывая эту специфику, ученые университета Осло (M. Cinelli, G. de F. Morales, A. Galeazzi, M. Starnin), исследовали коммуникации более одного миллиона активных пользователей на четырех платформах социальных сетей, в общей сложности - более ста миллионов уникальных фрагментов по спорным, социально значимым проблемам. Оценка присутствия / отсутствия эхо-камер осуществлялась по двум критериям: гомофилия во взаимодействиях по конкретной теме и предвзятость в распространении информации из источников единомышленников. Результаты исследования, опубликованные в 2021 году, показали, что степень сегрегации при потреблении новостей варьируется в зависимости от платформы, но в целом «агрегация пользователей в гомофильные кластеры доминирует в онлайн взаимодействиях» [11], т. е. платформы социальных сетей и алгоритмы новостных лент способствуют появлению эхо-камер.

Пузырь фильтров и эхо камера – понятия, на первый взгляд, тождественные. Тем не менее, способ их формирования имеет различия, на которые указывает доктор Ричард Флетчер: «эхо-камеры могут быть результатом фильтрации или других процессов, тогда как пузырь фильтров - это результат алгоритмической фильтрации» [12]. Если в первом случае пользователи осознанно фильтруют информацию, то во втором эту задачу выполняют алгоритмы платформ, т. е. критерий различия рассматриваемых понятий, – это способ селекции. Подход, предложенный оксфордским исследователем моделей потребления цифровых новостей, можно определить как социально-технологический. В отечественной научной литературе наряду с социально-технологическим предлагается познавательно-коммуникативный, логико-смысловой ракурс анализа. Профессор В. А. Бажанов отмечает, что «отличие двух коммуникативных пространств заключается в известной толерантности к инакомыслию в случае эхо-пузырей и нетерпимого отношения к нему в случае эхо-камер» [13, с. 155]. Если «эпистемические эхо-пузыри» образованы в силу сходства взглядов людей (в широком смысле «на жизнь», включая политическую) и эмоций, сопутствующих этим взглядам» [13, с. 152], то «эхо-камера» - это замкнутое коммуникативное образование, «усиливающее, расширяющее своего рода эпистемический контроль над состоянием умов и формирующее специальные структуры противодействия и разоблачения авторитетных мнений противоположной стороны» [13, с. 156]. При схематичном наложении данных подходов, выявляющих различия «эхо-камер и пузырей», получается, что машинный алгоритм формирования «эхо-пузырей» толерантнее, чем сознательно выстроенные фильтры «эхо-камер» с односторонним искажением восприятия реальности, с догматикой и внутригрупповыми когнитивными установками. При всей условности данной ментальной операции, ее результат подчеркивает значимость мыслей и действий самого пользователя, вопреки идее всемогущества алгоритмов фильтрации. Если установки и избирательные коммуникации пользователя способны не только формировать алгоритмы фильтрации данных, но и усиливать их работу, то можно предположить и способность пользователя к нейтрализации или обходу фильтров.

Любые машинные алгоритмы фильтрации или психологические ловушки – это манипуляции, которые подавляют, но не отменяют свободу выбора. Осмысленный выбор предполагает деятельность разума на основе частного интереса, целесообразности и логической упорядоченности, учета реальных условий, взаимосвязи целей, средств и внешней среды. Способность современных пользователей к рационализации поведения в сетевой медиасреде, снижение эффективности воздействия алгоритмизированных фильтраций обусловлены следующими факторами:

Во-первых, предсказательные способности искусственного интеллекта могут дать сбой из-за трудностей интерпретации пользовательского поведения: непоследовательность во взглядах и предпочтениях, аргументационные уловки, логические ошибки, эзопов язык, «социальный автоматизм» [14] сетевых взаимодействий. Для распознавания «прагматики человеческих инфо-манипуляций» [15] машинному алгоритму могли бы быть полезны компетенции, включающие попперовский принцип фальсификации - опровержения собственных представлений. Различия в статусно - ролевой самопрезентации пользователей связаны с тем, что они не ограничиваются одной социальной платформой, а создают аккаунты в разных социальных сетях, на веб-сайтах и онлайн-сервисах, либо используют не зарегистрированный доступ к материалам, к обсуждениям на открытых форумах. «Контент, продвигаемый или скрываемый алгоритмами платформ, по большей части создан людьми и потому не лишен противоречий» [16]. Например, феномен кликбейта ухудшает пользовательский опыт, но автор контента получает продвинутую позицию в выдаче, благодаря неадекватной реакции системы, т. е. алгоритмы не просчитывают отсутствие смысловой связи между заголовком и содержанием материала. Помимо интерпретации «субъективизмов» пользователей алгоритмы нуждаются в «допобразовании» для понимания социального контекста и, по мнению профессора Ю. Харари, в исправлении ошибок, заложенных программистами на уровне «подсознательных предубеждений» [17].

Во-вторых, принятие социально-ценностных установок сетевого сообщества не влечет за собой обязательного единообразия мыслей и действий всех его членов во всех сферах сетевого бытия. Например, исследование ста пятнадцати виртуальных сообществ российской социальной сети «Вконтакте», позволило экспериментаторам сделать вывод о функционировании не только эхо-камер, но и рациональной конфронтационной коммуникации. «Блокировки аккаунтов-критиков не превышали 30 % от числа сообществ, включенных в выборку по каждой из идеологических групп» [18, с. 82].

В-третьих, концептуализация негативных сетевых эффектов, по мнению медиатеоретика Акселя Брунса, может иметь конъюнктурную мотивацию со стороны некоторых медиа-политиков и технопессимистов [16, с. 16-18]: либо с целью ужесточения регуляции социальных медиа, либо с целью снижения самостоятельной активности пользователей, уверовавших в жесткую зависимость от алгоритмизированных сервисов онлайн-платформ.

В-четвертых, социальные технологии воздействия на массовое сознание существуют издревле, также как средства осознанного противодействия. Сохранение «человеческой агентности» в нужной для пользователя степени достижимо усилиями самого пользователя. Этой цели служат не только информационно - технологические, но и когнитивно - психологические способы защиты.

В плане инфотехнологий, доступные среднестатистическому пользователю меры самосохранения в алгоритмизированном медиапространстве, предполагают отключение рекомендаций в настройках видеохостингов, отключение доступа приложений к микрофону и отказ от голосового помощника (аудио-приватность); отказ от автоматической сортировки публикаций в сетях, от функции персонализации в поисковом сервисе, а также систематическую очистку истории поисковых запросов и просмотров видеоконтента.

Делая акцент на «степени агентности», востребованной самим пользователем, мы подчеркиваем не только отрицательные, но и положительные стороны персонализированной контент-фильтрации. Двойственность объясняется удобством получения рекомендаций, подобранных алгоритмами. Машинная подсказка или, в терминологии Р. Авенариуса, работа по «принципу наименьшей траты сил» оптимальна в стандартной ситуации, например, при поиске информации справочного, описательного характера. Самостоятельный выбор потребляемого контента (например, подписка) и следование рекомендациям алгоритмов в сетевой практике, на наш взгляд, не исключают друг друга, а взаимодополняют, применяются по ситуации. Настройки по умолчанию – удобный вариант в «архитектуре выбора» [19], - утверждает профессор Касс Санстейн, приводя пример использования навигатора, от предложений которого можно при желании отказаться. В своей книге «Иллюзия выбора» профессор, защищая право на активный выбор, в тоже время рассматривает «выбор не выбирать» как один из способов проявления свободы воли. В случае конформного поведения принятие решения делегируется экспертам, политикам и алгоритмам. Подобные «настройки по умолчанию» сродни психологическому механизму стереотипизации, когда включается режим «экономии мышления» и можно действовать по шаблону, на основе опосредованного опыта и готовых, упрощенных представлений.

Потребность пользователя в углубленном анализе конкретной проблемы требует рационального поведения в информационной сфере также, как и в любой другой области жизнедеятельности. Информационно-технологические способы защиты в сочетании с когнитивно-психологическими помогают человеку сохранить собственную субъектность. Сформировавшуюся эхо-камеру может существенно уменьшить или упразднить только «исчезновение самого события, которое привело к ее появлению» [13, с.159]. Риск оказаться в «эхо-камере» минимизируется при изначальном «запуске» критического отношения к информации, поскольку снижается уровень предвзятости подтверждения. Об этом свидетельствуют результаты эксперимента американских исследователей [20], изучавших влияние фейковых новостей на социальные сети. Участники эксперимента - бакалавры Школы бизнеса Университета Индианы должны были выразить свое отношение к новостным материалам. Доверие вызвали статьи, которые совпали с их собственной точкой зрения («предвзятость подтверждения»), но при создании, так называемого, «пользовательского рейтинга» статей участники заняли критическую позицию. Задание состояло в публичной оценке достоверности сведений, относительно которых у участников эксперимента отсутствовал личный опыт, что привело к сомнению и осторожности при информационном обмене. Следовательно, сделали вывод исследователи, новость не обретает вирусный характер при активизации критического фильтра, поскольку он снижает спрос на предвзятый контент.

Критическое отношение к информации сопрягается с одной стороны, со степенью доступности и разнообразия источников, а с другой стороны, с уровнем открытости самого пользователя к сообщениям, которые не вписываются в идеализированную картину индивидуального восприятия. Широта взглядов, готовность к пониманию позиции оппонента способствуют осознанному принятию альтернативных доводов через сомнение, сравнительный анализ, поиск сходства и постижение сути различий. При этом, аргументативная осмысленность вывода не исключает состояния психологического дискомфорта: от ощущения собственной когнитивной недостаточности до кризиса самоидентификации. Последовательная реализация установки на выход за пределы эхо-резонансного пузыря активизирует внутренний локус контроля пользователя, изменение ракурса самосборки и содержания информационных потребностей.

Стимулы разумного информационного потребления возникают на основе: 1) недостатка наличной информации для реализации тех или иных мыследействий; 2) противоречия между наличной информацией и поступающей извне; 3) противоречия между медийными новостями, теоретическими, идеологическими новациями и обыденной практикой. В результате осознания рассогласований формируется «поисковый образ» информационной потребности, т. е. представление о собственных информационных лакунах в том объеме информации, которая востребована для решения проблемы. Самостоятельно выявленный тренд информационного поиска ведет к искомой цели, минуя заданные извне, алгоритмизированные «ориентиры». При гипотетической прозрачности фильтров онлайн-платформ пользователь имеет возможность взаимодействовать с подконтрольными ему алгоритмами, задавая осознанную траекторию собственного развития и поиска. И в том и в другом случае отсутствие информационной детерминации со стороны алгоритмов выводит пользователя за пределы информационно замкнутого комьюнити.

Таким образом, сбор, хранение, распространение и монетизация информации о возможном поведении потребителя стимулируют формирование пузырей фильтров. Тенденция к размежеванию между онлайн-сообществами на основе потребляемого контента подтверждается исследовательскими экспериментами на разных социальных платформах. Способность искусственного интеллекта к самообучению повышает привлекательность, точность попадания персонализированных рекомендаций. Однако, о тотальности замкнутых на себе эхо-камер, о непроницаемости границ сетевых сообществ говорить преждевременно. Коммуникации и разумное информационное потребление, осознанность оценок и выводов повышают степень адекватности восприятия реальности во всем ее противоречивом многообразии, снижают вероятность укорененного пребывания в комфортном инфопузыре.

Делегирование принятия решений искусственному интеллекту, т. е. «выбор не выбирать», либо сохранение, усиление собственной субъектности, вопреки умным алгоритмам и нейросетевым фильтрам - это осознанный, ситуационный выбор самого пользователя, его самоорганизация в процессе ответственного информационного потребления.

Библиография
1. Бодрийяр, Жан. Пароли. От фрагмента к фрагменту. – Екатеринбург: У-Фактория, 2006. 
2. Паризер, Эли. За стеной фильтров. Что Интернет скрывает от вас? Пер. с англ. А. Ширикова. М.: Альпина Бизнес Букс, 2012. 
3. Гуров Ф. Н. Опыт социально-философского осмысления проблемы "фейков" и "пузырей фильтров" в сети // Проблемы современного образования. 2019. № 3. С. 9-20.   
4. Sunstein C. R. Echo chambers. Princeton: Princeton University Press, 2001. 108 pр.
5. Замков А. В.Эффект эхо-камеры как проявление принципа самоподобия в социальных сетях // Медиаскоп. 2019. Вып. 2. [Электронный ресурс]. URL:http://www.mediascope.ru/2548 (дата обращения: 10.11.2023)
6. Digital 2023: Global Overview Report. [Электронный ресурс]. URL: https://datareportal.com/reports/digital-2023-global-overview-report (дата обращения: 10.11.2023)
7. Chopra, Felix and Haaland, Ingar and Roth, Christopher, The Demand for News: Accuracy Concerns Versus Belief Confirmation Motives (2022). CESifo Working Paper No. 9673. 111 рр. doi.org/10.2139/ssrn.4082578
8. Zuboff, S. The Age of Surveillance Capitalism. New York: PublicAffairs. 2019. 704 pр.
9. Срничек, Н. Капитализм платформ / пер. с англ. и науч. ред. М. Добряковой. М.: Изд-во ВШЭ, 2019.
10. Dean, J. Communicative Capitalism: Circulation and the Foreclosure of Politics // Cultural Politics. 2005. Vol. 1. № 1. Pр. 51-74.
11. Matteo Cinelli, Gianmarco De Francisci Morales, Alessandro Galeazzi and Michele Starnin. The echo chamber effect on social media. PNAS. Computer Sciences. Vol. 118  No. 9. 2021. doi.org/10.1073/pnas.2023301118
12. Fletcher, Richard. The truth behind filter bubbles: Bursting some myths. Reuters Institute for the Study of Journalism University of Oxford, 24th January 2020. [Электронный ресурс]. URL: https://reutersinstitute.politics.ox.ac.uk/news/truth-behind-filter-bubbles-bursting-some-myths (дата обращения: 10.11.2023)
13. Бажанов В. А. Особенности познавательных механизмов в информационную эпоху: «эхо-пузыри» и «эхо-камеры» // Философский журнал. 2022. Т. 15. № 4. С. 152-164.
14. Safina, A. M., Leontyev, G. D. et al. Dialectics of freedom and alienation in the space of the internet / A. M. Safina, G. D. Leontyev, L. F. Gaynullina, L. S. Leontieva, T. V. Khalilova // Revista ESPACIOS. Vol. 39 (Nº27) Year 2018. Page 8. [Электронный ресурс]. URL: http://www.revistaespacios.com/a18v39n27/18392708.html (дата обращения: 10.11.2023)
15. Леонтьев Г. Д., Леонтьева Л. С. Цифровая техно-демократия как постнеклассическая практопия // Социодинамика. 2023. № 4.  С. 1-10. DOI: 10.25136/2409-7144.2023.4.40407
16. Брунс, Аксель. Реальна ли стена фильтров? / пер. с англ. А. Архиповой; под науч. ред. А. Павлова. – М.: Изд. дом ВШЭ, 2023. 
17. Харар