Цензура на основе ИИ. Дожили.

YouTube сделал исторический шаг вперёд. Суть его состоит в том, что отныне будет вводиться "мягкий" контроль над так-называемыми "конспиративными" видеоматериалами, которые часто являются лживыми, вызывающими разжигание ненависти вокруг этого общества и подставляющими YouTube как площадку для свободного изьяснения мнений

В пятницу YouTube заявил, что он переоснащает свой алгоритм рекомендаций, который предлагает пользователям новые видео, чтобы предотвратить пропаганду заговоров и ложной информации, отражая растущую готовность подавить дезинформацию на крупнейшей в мире видеоплатформе после нескольких публичных ошибок.

В заметке на своем блоге, которую YouTube планирует опубликовать, компания заявила, что «внимательно присматривается» к тому, как можно сократить распространение контента, который «приближается, но не совсем пересекает границу» его правил. YouTube подвергается критике за то, что он направляет пользователей к заговорам и ложному контенту, когда они начинают смотреть более реальные новости.

Изменение рекомендательных алгоритмов компании является результатом шестимесячной технической работы. Сначала он будет небольшим - YouTube заявил, что он будет применяться к менее чем 1 проценту контента сайта - и затрагивает только англоязычные видеоролики, а это означает, что много нежелательного контента все равно будет проскальзывать через трещины.

Компания подчеркнула, что ни одно из видео не будет удалено с YouTube. Они по-прежнему будут доступны для людей, которые ищут их или подпишутся на каналы заговора.

«Мы считаем, что это изменение обеспечивает баланс между поддержанием платформы для свободы слова и выполнением нашей ответственности перед пользователями», - говорится в сообщении в блоге.

YouTube, который исторически давал широкие возможности для свободы слова, не запрещает теории заговора или другие формы ложной информации. Компания запрещает разжигание ненависти, но несколько узко определяет ее, как речь, которая пропагандирует насилие или ненависть к уязвимым группам.

Адвокаты утверждают, что эта политика не пойдет достаточно далеко, лишь чтобы не допустить ввод людей в заблуждение, так как собственное программное обеспечение компании часто толкает людей на политическую окраину, подавая им экстремистский контент, который они не искали.

Функция рекомендаций YouTube предлагает новые видео пользователям на основе тех, которые они смотрели ранее. Алгоритм учитывает время просмотра и количество просмотров, в качестве факторов при принятии решения о предложении фрагмента контента. Если видео просматривалось много раз до конца, программное обеспечение компании может распознать, что оно было высококачественным и автоматически начать его показ другим. С 2016 года компания также включила показатели удовлетворенности, симпатии, антипатии и другие показатели в свои системы рекомендаций.

Но из основного обьема видео, алгоритм часто принимает резкий поворот и предлагает сомнительные идеи. В декабре газета «Вашингтон пост» сообщила, что YouTube продолжает рекомендовать ненавистные и заговорщические видео, которые подпитывают расистский и антисемитский контент.

Совсем недавно YouTube разработал программное обеспечение, чтобы не допустить распространения вирусных теорий заговора во время последних новостей. После школьной стрельбы в Паркленде этим февралем, теория заговора, утверждающая, что подросток, переживший школьную стрельбу был «кризисным актером» являлась самой популярной статьей на YouTube. Аналогичная ситуация произошла в дни после бойни в Лас-Вегасе 2017-го, видеоролики о том, что стрельба была обманом, собрали миллионы просмотров.

Шесть месяцев назад YouTube начал набирать людей-оценщиков, которым было предложено просматривать контент на основе набора рекомендаций. Затем компания взяла отзывы оценщиков и использовала их для обучения алгоритмов, которые генерируют рекомендации.

Не является ли это признаком наступающего контроля над противоположным общепринятым мнениям или это действительно шаг в борьбе с дезинформацией? Будут ли предприниматься аналогичные шаги для противодействия информационной войне?