Как защитить себя от мошенников, которые могут использовать ИИ?
Нейросети — это мощный и интересный инструмент, который помогает создавать картинки, тексты, обрабатывать аудио и видео. Но иногда эти технологии могут использоваться в плохих целях — например, мошенниками. Чтобы не стать жертвой обмана, важно понимать, как работает ИИ-мошенничество и какие схемы используют злоумышленники. Давайте разберем несколько примеров и поймем, как не попасться на удочку.
Телефонное мошенничество вышло на новый уровень благодаря нейросетям. Представьте, что мошенник «обучает» программу разговаривать голосом другого человека, а затем звонит или отправляет голосовое сообщение. Один из таких случаев произошел в России — в Нижнем Новгороде бухгалтеру позвонила "директор" и попросила взять деньги из сейфа и передать курьеру. Голос был настолько похож, что бухгалтер поверила.
Как распознать обман:
- Голос звучит неестественно, может быть слишком монотонным или наоборот чересчур правильным.
- Иногда голос ставит неправильные ударения или делает паузы не там, где нужно.
- Человек на другом конце разговора может уклоняться от ответов на уточняющие вопросы.
Дипфейк — это видео, в котором изображение человека сгенерировано нейросетью. Таким образом злоумышленники могут создать фальшивое видео, в котором человек говорит или делает что-то, чего на самом деле не было. Например, на YouTube была проведена фальшивая трансляция с «Илоном Маском», который рекламировал криптовалюту. Люди, которые не знали, что это дипфейк, могли поверить в это и потерять деньги.
Как распознать обман:
- У человека неестественная мимика или движения губ не совпадают с речью.
- На видео могут быть видны странные тени или пересветы, а также разный тон кожи на лице.
- Картинка может "сбоить", если человек в кадре машет рукой или резко двигает головой.
Нейросети также могут создавать фальшивые фотографии. Например был случай, когда сгенерированное фото Папы Римского в длинном белом пуховике облетело весь интернет, и многие поверили, что это настоящий снимок.
Как распознать обман:
- Некачественные мелкие детали: например, неправильное количество пальцев или асимметрия в лице.
- Слишком идеальные пейзажи и фоны, которые выглядят нереалистично.
Иногда злоумышленники создают фальшивые фотографии товаров и выкладывают их на маркетплейсах. Они могут попросить вас перейти в мессенджер, чтобы оплатить товар, но делать этого нельзя. Коммуникация и платежи всегда должны проходить через маркетплейс.
Как распознать обман:
- Изображение товара выглядит неестественно, есть лишние или странные элементы.
- Продавец настойчиво просит перейти по ссылке или оплатить товар мимо площадки.
Мошенники могут выдавать себя за несуществующего человека и обманывать других, чтобы получить деньги. Например, они могут использовать нейросеть , которая помогает им писать сообщения в чатах. Человек, не подозревающий об обмане, может попасться на их уловки и потерять деньги.
Как распознать обман:
- Бот общается слишком формально, не использует сленг и иногда отвечает "не в тему".
- Постоянные просьбы отправить деньги или перейти по подозрительной ссылке.
В соцсетях можно встретить ботов, которые пишут комментарии под постами или привлекают внимание к фальшивым сайтам. Иногда мошенники даже расклеивают объявления с QR-кодами, которые ведут на чат-боты. Эти боты могут убеждать людей, что им положены выплаты, и просить ввести платежные данные.
Как распознать обман:
- Много одинаковых комментариев от одного и того же "пользователя".
- Странности в общении: бот не реагирует на неожиданные вопросы, как это сделал бы реальный человек.
Нейросети также могут создавать поддельные документы — например, паспорта или водительские права. Мошенники могут использовать чужие данные и регистрировать фальшивые аккаунты или брать кредиты.
Как распознать обман:
- Если вам предъявляют документ, можно попросить дополнительные фото с других ракурсов.
- Проверьте изображение на подлинность и ищите опечатки или искажения.
Нейросети — это мощный инструмент, который может сделать жизнь удобнее, но также и опасный. Чтобы не стать жертвой обмана, нужно быть внимательным и критично относиться к информации. Помните, что нейросети могут ошибаться и генерировать неверные данные. Поэтому, если что-то кажется вам подозрительным, всегда проверяйте информацию и будьте бдительны.
Правила безопасности в Сети:
В этом вопросе, как и много лет назад, когда развивалось мошенничество в Сети, стоит руководствоваться именно здравым смыслом и перепроверять поступающую информацию.
Правило первое: нужно быть острожным при вводе личной информации на веб-сайтах и не открывать подозрительные электронные письма.
Правило второе: лично проверять всю информацию, поступающую от друзей или родственников в соцсетях и мессенджерах. То есть, если одноклассник вдруг попросил денег, чтобы оплатить посылку или обратился по другой нетипичной причине, лучше перезвонить и услышать просьбу в разговоре.
Правило третье:
в социальных сетях нельзя давать никакой личной информации незнакомым людям. Это может стать ключиком для дальнейшего удачного обмана.
Правило четвертое: важно использовать антивирусное программное обеспечение и регулярно обновлять его, чтобы защитить свой компьютер от вредоносных программ.
Правило пятое:
Если в ходе общения в мессенджере бот или робот предлагает ввести личную финансовую информацию (коды из смс от банка, полные данные карты, ФИО, паспортные данные и т. д.) необходимо прервать общение, обратиться в отделение банка либо самостоятельно связаться с организацией по контактам, которые указаны на официальном сайте компании.
Правило шестое:
Если вы решили самостоятельно воспользоваться услугами иностранных сервисов, убедитесь, что действительно оказались на официальном ресурсе. Не переходите по сомнительным ссылкам, предлагающим ввести данные для оплаты и не устанавливайте на свои устройства неизвестные приложения.
Вопросы для учеников:
1. Что такое дипфейк и как его можно распознать?
2. Как нейросети могут использоваться для создания фальшивых голосов? Приведите примеры.
3. Почему мошенники часто используют нейросети для создания поддельных документов?
4. Какие признаки могут указывать на то, что фотография была создана нейросетью?
5. Как можно защитить себя от мошенничества на маркетплейсах, используя знания о нейросетях?
6. В каких еще сферах, кроме мошенничества, используются нейросети?
7. Почему важно проверять информацию из нескольких источников при столкновении с подозрительными материалами?
8. Каким образом нейросети помогают мошенникам в чатах и как распознать их действия?
9. Что такое боты-мошенники и как они действуют в социальных сетях?
10. Как вы думаете, какие еще меры можно предпринять, чтобы защитить себя от ИИ-мошенничества в будущем?