Почему системы рекомендаций делают нас глупее и как с этим бороться 

Лучшее, что можно сделать с хорошим советом, это пропустить его мимо ушей. Он никогда не бывает полезен никому, кроме того, кто его дал (Оскар Уайльд).

Современные источники контента (соцсети, блоги, видеохостинги) нацелены на повышение вовлеченности аудитории в использование сервиса. Для этого они разрабатывают рекомендательные модели машинного обучения, которые определяют предпочтительных авторов и содержимое и начинают их предлагать. Тем самым создаются петли обратной связи - те идеи, которые вы потребляете, возвращаются к вам опять только из других уст и в новой форме. Это подкрепляет индивидуальные когнитивные искажения, так как препятствует поступлению иной точки зрения.

Такой проблемой озадачивались в США ещё в период распространения коронавируса, когда пессимисты убеждались в своей позиции ещё больше, получая информацию от своих единомышленников. В частности, Facebook обвиняли в распространении такой дезинформации о вакцинах против COVID-19.

Аналогично имели место случаи продвижения контента из разряда "теории заговоров" в YouTube-е. Кроме того, так как такой материал часто просматривался и рекомендовался ее сторонникам, повышалась его значимость. Вследствие этого он стал рекомендоваться и другим группам пользователей, которую он привлекал своими "громкими" заголовками и "невероятными" фактами. Это стало причиной его вирусного распространения за пределами целевой аудитории.

Проблема петель обратной связи с развитием машинного обучения становится все более актуальной. Модель сама предлагает те же предпочтения, что и разделял пользователь, он их подкрепляет (кликая или просматривая очередной ролик), модель убеждает в своей правоте и так по кругу.

"Спасением" от такого влияния является отключение системы рекомендаций, а также получении информации из разных источников, ее сравнении и критическом анализе. Поэтому я всегда любил формат дискуссий с привлечением экспертов с противоположной точкой зрения. Иначе аудитории, не разбирающейся в теме, легко "навязать" мнение одного из них участников. А, имея обе позиции, слушателю легче принять взвешенное решение.