Не попадитесь: как мошенники используют нейросети для обмана

Любая вещь может быть использована как из добрых побуждений, так и во зло, и искусственный интеллект – не исключение. К сожалению, возможности нейросетей не остались без внимания злоумышленников и нередко задействуются ими в различных мошеннических схемах.

В этот раз мы поговорим о том, как ИИ оказывается замешан в киберпреступлениях, раскроем наиболее популярные способы обмана, а также познакомимся с современными методами борьбы с аферистами, которые предлагают банки и операторы связи.

Схемы мошенничества с нейросетью

Ничего принципиально нового злоумышленники пока не придумали, но нейросети очень помогают им в реализации проверенных годами схем. С помощью чат-ботов аферисты охватывают большее количество людей, а графические нейросети и большие языковые модели делают их ложь реалистичнее.

Осторожно, дипфейки

Наверняка вы видели хотя бы одно фото или видео с реальными людьми, сгенерированное нейросетью. Такие материалы называют дипфейками. Чем больше развивается искусственный интеллект, тем труднее отличить созданный им контент от настоящей съемки. И это становится проблемой, когда технологию используют с целью обмана. Да, теперь и тому, что вы видите своими глазами, не всегда можно верить.

Как такое возможно

Некоторые нейросети помогают блогерам с их рутинными задачами: достаточно «скормить» несколько сториз, кружочков или рилсов, чтобы они смогли создать новые видео без личного участия человека.

Многие публикуют в соцсетях свои фото и видео, а злоумышленники обучают на них искусственный интеллект и создают контент, который им нужен для выманивания денег. Особенно часто встречаются дипфейки с медийными личностями, так как в свободном доступе есть множество видео для обучения ИИ.

Сильвестр Сталлоне остался один дома

Как защититься

• По возможности выкладывайте меньше информации о себе в сеть, держите страницы закрытыми от посторонних. О том, как избежать утечки персональных данных, мы тоже недавно рассказывали.

• Перепроверяйте сведения о госпрограммах и конкурсах от блогеров в официальных источниках.

• Детально рассматривайте фото и видео: на сгенерированных изображениях часто есть проблемы с тенями, резкостью и естественностью мимики.

• Не соглашайтесь на условия мошенников, сделайте скриншоты переписки, если вас шантажируют, и сообщите об этом.

Я это ты, только лучше – кража личности через нейросеть

Помните телефонные розыгрыши, которые были популярны в 2010–2014? Можно было в продуктовом магазине через терминал QIWI заказать звонок другу голосом президента, полицейского, знаменитости или героя юмористического телесериала. Подобный принцип используют злоумышленники, чтобы притворяться кем-то другим.

Как это работает

Подделка голоса была возможна еще задолго до распространения искусственного интеллекта, но преимущественно это были короткие записи, распознать которые не составляло особого труда. Сейчас же можно быстро озвучить любой текст каким угодно голосом, достаточно заполучить запись разговора от трех секунд. Мошенник взламывает аккаунт, скачивает десятки голосовых сообщений и создает реалистичную копию.

Чтобы вызвать доверие, преступник использует стиль переписки, характерный для владельца аккаунта: может употреблять определенные слова-паразиты, ставить любимые эмодзи, выбирать особые формы обращения. Нейросети, обученные на нескольких сообщениях из диалога, отлично копируют манеру общения конкретного человека.

Фрагмент переписки с мошенником, взломавшим аккаунт

Как обезопасить себя

• Задумайтесь, если ваш друг или родственник просит перевести деньги именно на счет в каком-то непонятном банке, а не по номеру телефона. Спросите о том, про что можете знать только вы и ваш собеседник.

• Для всех своих аккаунтов в соцсетях и мессенджерах установите надежные пароли, подключите двухфакторную аутентификацию.

• Помните, ЦБ не работает с физлицами. Не рассказывайте незнакомцам свои личные данные по телефону, просите выслать направление в участок или приезжайте в отделение банка для решения серьезных вопросов.

• Не торопитесь: мошенники всегда пытаются давить на срочность, чтобы вы не успели подумать и заподозрить неладное.

Ловись, рыбка, большая и маленькая – фишинг, прокачанный ИИ

Казалось бы, при чем тут рыбалка? Дело в том, что так назван один из способов мошенничества в сети. Аферисты «закидывают удочку» распространяя вредоносные ссылки, используют «наживку» – щедрое бесплатное предложение, и ждут, пока кто-нибудь клюнет и поделится нужной информацией. Метод малоэффективный, но иногда работает.

Как они это делают

Здесь все просто: аферисты настраивают автоматические рассылки всем подряд, ведь одно из миллиона писем может сработать. Чтобы не заморачиваться, не придумывать текст и не отправлять сообщения самостоятельно, эти задачи поручают ботам с искусственным интеллектом. Вручную человек может рассылать около тысячи сообщений в сутки, нейросети же работают быстрее.

Примеры фишинговых «писем счастья»

Большинство пользователей знает эту схему, часть писем попадает в «спам», а подобные сайты быстро блокируются поисковиками. Однако мошенники могут запускать рекламу таких ботов в небольших местных телеграм-каналах или находить другие способы сыграть на доверии или любопытстве.

Очень подозрительное объявление

Как не попасться

• Помните, что бесплатный сыр бывает только в мышеловке или на дегустации – не гонитесь за супервыгодными предложениями.

• Внимательно проверяйте адреса и домены интернет-магазинов, банков и любых сайтов, где просят ввести ваши данные.

• Не переходите по непонятным ссылкам от любых отправителей и не называйте никому коды из СМС.

• Обращайте внимание, защищено ли соединение (адрес должен начинаться с https) и как давно зарегистрирован сайт.

Купите то, чего нет: обман с помощью генерации нейросети

Мошенники нередко создают объявления о продаже несуществующих предметов, услуг или призывают к инвестированию в проекты, которых на самом деле нет. Они продумывают каждую деталь, чтобы вызвать доверие у потенциальных жертв: используют убедительные описания и привлекательные цены. Но основной упор делается на эмоции.

Как здесь замешан ИИ

Мошенники используют нейросети для генерации правдоподобных текстов, изображений и видеороликов, которые вызывают у потенциальных жертв эмоциональный отклик. Такие объявления и аккаунты выглядят настолько реалистично, что у людей практически не возникает сомнений в их подлинности.

Один из случаев мошенничества через нейросеть – продажа семян «Ослепительное кошачье око», милые цветы оказались выдумкой

Как не стать жертвой обмана

• Мыслите критически и тщательно проверяйте всю информацию о благотворительной организации и отдельных людях перед тем, как переводить деньги.

• Не переходите в мессенджеры при покупке товаров с доставкой на маркетплейсах, оплачивайте покупки только через магазин.

• Внимательно рассматривайте фото- и видеоматериалы. Сгенерированный контент неидеален: если присмотреться, видны слишком замыленные участки, неправильные пропорции или другие ошибки нейросетей.

• Не принимайте поспешных решений под влиянием сильных эмоций. Сделайте паузу и трезво оцените ситуацию, прежде чем отправлять кому-либо деньги.

Нейросети на службе добра, или новые методы борьбы с мошенничеством в сети

Как я уже писала выше, искусственный интеллект – лишь инструмент, и от того, в чьих руках он окажется, зависит, пользу или вред он принесет человеку. ИИ используют не только для обмана, но и для борьбы с ним. Разрабатываются, совершенствуются и активно внедряются алгоритмы, которые будут мешать мошенникам действовать.

База биометрических данных

Минцифры подготовило комплексный законопроект, предполагающий создание базы данных, где в зашифрованном виде будут храниться образцы голосов мошенников. Планируется, что операторы сотовой связи будут использовать ИИ, чтобы распознать голос киберпреступника, предупредить абонента и разорвать соединение.

Эффективность такой меры пока обсуждается: злоумышленники могут легко менять голос с помощью нейросетей, и есть мнения, что создать такую базу будет попросту невозможно. Кроме того, ИИ не всегда точен, особенно в первое время после запуска. Что если в эту базу по ошибке попадет голос законопослушного человека?

Однако искусственный интеллект способен также анализировать другие характеристики речи, что может быть полезно для выявления попыток манипуляции. Поэтому потенциал у технологии определенно есть.

Определители номера и другие опции с ИИ

Уже сейчас мобильные операторы экспериментируют с возможностями нейросетей в противостоянии с аферистами. Специальные программы проверяют номера по своим базам данных и предупреждают, какой звонок может быть нежелательным, какой – подозрительным.

Например, такие функции предлагает своим абонентам МТС

Технология liveness

Банки совершенствуют свои меры защиты и просят пользователей подтверждать операции с помощью биометрии. Однако мошенники научились подделывать их с помощью искусственного интеллекта и использовать для входа в личные кабинеты. Liveness — это передовая система проверки пользователя, которая позволяет отличить реального человека от фотографии, маски или дипфейка, анализируя микродвижения, текстуру кожи и реакцию на свет. Такую технологию на базе ИИ применяют в банковских приложениях, системах доступа и онлайн-сервисах для обеспечения надежной защиты личных данных.

Нейробабушка Дейзи

В Великобритании создали бота на основе искусственного интеллекта, задача которого – выбесить киберпреступника и отнять у него драгоценное время. Подозрительные звонки переадресовываются на цифровую старушку по имени Дейзи. Нейросеть использует против преступников их же оружие: бот отвечает голосом бабушки, мошенник уверен, что сможет легко обмануть пожилого человека и старается выманить у нее нужную информацию, однако Дейзи нарочно путает цифры, забывает некоторые вещи и долго думает перед ответом, чем испытывает терпение афериста.

В России подобным образом развлекаются некоторые блогеры и их последователи. Если звонит мошенник, собеседник якобы ему верит и ведет долгую изматывающую беседу. Контент получается интересный: так люди узнают о новых схемах и как они работают, в процессе диалога рождаются увлекательные придуманные истории, а иногда в конце даже удается поговорить с мошенником начистоту.

Диалог с разоблаченным аферистом

Ограничение на генерацию определенного контента

Искусственный интеллект имеет ограничения в создании информации, которую могут использовать мошенники. Общедоступные нейросети отказываются генерировать эротические изображения с реальными людьми, придумывать преступные схемы и создавать прочие нежелательные материалы. Чтобы беспристрастный бот оставался в рамках закона, разработчики встраивают в свои проекты специальные фильтры. Однако они не всегда работают правильно, и некоторым пользователям удается взломать систему.

Повышение цифровой грамотности

Предупрежден, значит вооружен: одним из эффективных способов борьбы с мошенничеством остается информирование. Чем больше люди знают о популярных уловках, тем сложнее застать их врасплох. Распространение информации, обмен опытом и внимание к деталям помогут вовремя распознать угрозу и избежать неприятных последствий.

От мошенничества никто не застрахован. Даже если кажется, что вас это не коснется, риск есть всегда: злоумышленники могут позвонить, когда у вас плохой день и нет сил ни о чем думать. Расскажите родственникам о возможности обмана с помощью нейросети, подпишитесь на каналы, в которых рассказывают о новых схемах и подключите доступные технологии для защиты.

В общем, будьте бдительны и используйте искусственный интеллект только во благо. А если хотите узнать, как с помощью искусственного интеллекта развивать свой бизнес, заходите в блог компании 1PS – там много интересного!

---