what are deepfakes and why is such rapid AI progress a threat? @. article

——— мы привыкли говорить об искусственном интеллекте как о прорыве, о будущем, о прогрессе и удобстве для рутинной жизни. ии продают нам как нейтральный инструмент, лишенный каких либо правил и ограничений. но на практике любая новая технология в первую очередь перенимает уже существующее неравенство в обществе — и очень быстро начинает его повторять и усиливать.

——— генерация фейковых изображений с помощью искусственного интеллекта стала одной из самых серьезных угроз цифровой безопасности для женщин и девочек. технологии, которые изначально создавались для развлечения, сегодня используются для создания порнографического контента без согласия изображенных людей, с целью унижения, шантажа и контроля над ними. это подтверждают исследования и данные из разных стран.

@ . ЧТО ТАКОЕ ДИПФЕЙКИ?

. . . дипфейк — это изображение, видео или аудио, генерируемое с помощью искусственного интеллекта, которое выглядит правдоподобно, но является полностью синтетическим или содержит измененные элементы реальных людей. технология основана на нейросетях, которые анализируют множество данных о лицах и затем «накладывают» лицо одного человека на тело другого или создают голос, которого никогда не было. такие материалы невероятно реалистичны и почти невозможно отличить подделку от оригинала. угрозу усугубляет то, что множество бесплатных приложений и инструментов позволяют легко генерировать дипфейки за считанные секунды; технология доступна фактически каждому.

. . . исследования показывают, что почти все дипфейки, создаваемые без согласия, ориентированы на женщин и девочек: по данным международного анализа, 98 % дипфейков онлайн являются порнографическими, а около 99 % из них нацелены именно на женские образы.

ДОПОЛНИТЕЛЬНО:

. . . но важно понимать, что речь идет лишь о зафиксированных и выявленных случаях. официальная статистика отражает только ту часть проблемы, которую нам удалось узнать от платформенной модерации или расследований. реальный масштаб значительно больше.

. . . большинство подобных материалов распространяется в закрытых чатах, приватных / полузакрытых платформах, куда нет открытого доступа и где контроль со стороны соцсетей и правоохранительных органов минимален. кроме того, реалистично-сгенерированные дипфейк-материалы нередко продаются за деньги. данная технология начинает приносить прямую финансовую выгоду злоупотребителям.

. . . исследования показывают, что значительная часть общества не воспринимает сексуальные дипфейки как серьезную форму насилия и объективизации. для многих это по-прежнему нечто приемлемое или по меньшей мере нейтральное, а не нарушение границ и прав человека. цифровое насилие все еще считается менее значимым, чем физическое, несмотря на доказанный психологический и социальный ущерб для пострадавших.

. . . в общественных опросах около 25 % респондентов заявляли, что создание или распространение сексуальных дипфейков без согласия является допустимым или нейтральным действием. это означает, что каждый четвертый человек либо не видит в этом проблемы, либо сознательно ее игнорирует. такая позиция нормализирует злоупотребление: если общество не осуждает практику, она начинает восприниматься как норма, а ответственность за вред перекладывается на самих жертв.

. . . эти установки особенно распространены среди молодых мужчин и людей с регулярным потреблением порнографического контента.

. . . социальные последствия для пострадавших не менее разрушительны. жертвы дипфейков нередко сталкиваются с потерей репутации, шеймингом, виктимблеймингом и недоверием со стороны окружающих. в ряде случаев это приводит к изоляции или даже увольнению с работы. особенно уязвимы женщины, чья профессиональная деятельность связана с публичностью или репутацией: преподавательницы, журналистки, активистки. даже когда доказано, что контент является фейковым, ущерб уже нанесен.

. . . создание и распространение дипфейков без согласия представляет собой форму цифрового насилия и вторжения в человеческое достоинство, это признано правозащитниками и экспертами как серьезное нарушение прав человека.

. . . даже законодательство и правоприменение все еще не успевают за скоростью развития дипфейков. но законодательные инициативы начинают появляться ;

. . . в сша, например, были приняты меры вроде take it down act, направленные на быстрое удаление нелегального контента. закон предусматривает возможность требовать от платформ удаления дипфейков без согласия изображенных лиц, но на практике остаются проблемы с доказательной базой и юрисдикцией и эффективной это значит, что жертвы часто сталкиваются с долгими бюрократическими процедурами, прежде чем материалы будут удалены.

. . . подобные инициативы обсуждаются и в других странах. законодатели признают, что существующие нормы не успевают за технологическим прогрессом и не защищают жертв в полной мере. многие государства только формируют рамки ответственности за цифровое насилие, а инструменты для наказания создателей дипфейков остаются ограниченными.

——— в заключение хочу лишь подчеркнуть: социальным платформам и законодательству необходимо срочно создавать реальные инструменты защиты, признавать дипфейки формой насилия и вводить строгие меры ответственности. без этого проблема будет лишь расти.

——— для меня важно говорить об этом открыто и показывать, что защита женщин в цифровом пространстве так же необходима, как и в реальной жизни. мы не можем игнорировать угрозу, пока она остается незаметной, и должны действовать, чтобы технологии не становились оружием против нас.

——— ниже собраны актуальные петицийные инициативы и кампании; подписать их и поддержать активисток в борьбе с дипфейками и цифровым сексуальным насилием будет совсем не трудно.

КЛИКАБЕЛЬНО:

ДОПОЛНИТЕЛЬНО:

—— большая международная кампания #MyImageMyChoice собирает подписи и призывает к блокировке сайтов с дипфейками и к ответственности компаний, которые участвуют в распространении такого контента.