Телефонные мошенники научились подделывать голоса, ЦБ РФ предупредил о новых видах мошенничества с нейросетями в Волгограде. Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника. Мошенники подделали голос директора компании с помощью искусственного интеллекта и украли 243 тысячи долларов. Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве.
Как работает новая схема мошенничества с подделкой голоса
Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. В Атырау полицейские задержали мошенника, который с легкостью подделывал свой голос, сообщает Мошенники всё активнее используют нейросети, чтобы подделывать голоса или лица знакомых доверчивых граждан и своровать их кровные.
Мошенники могут подделать чужой голос, чтобы украсть деньги
Обычно мошенники надевают на себя маску родственника жертвы и меняют голос, а потом рассказывают душераздирающую историю о том, как они попали в беду и что им срочно нужны деньги. Те, кто разбирается в технологиях мошенничества, без труда подделают не только голос, но и другие личные данные. Мошенники научились подделывать голоса родных потенциальной жертвы. Кроме того, они создают адресные схемы, которые составлены по цифровому портрету человека, сообщили «РИА Новости» в Центробанке. Мошенники для обмана россиян стали подделывать голоса родных и знакомых жертвы.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
Это необходимо, чтобы обезопасить детей от нежелательных контактов и предостеречь от передачи данных злоумышленникам. Но сценарий общения у мошенников всегда типичный. Эффективным и простым способом защитить себя от преступников в таком случае будет обращение к мобильному оператору. У них есть услуга, которая разрывает звонки с подозрительных номеров.
Женщина обратилась в полицию, правоохранительные органы начали проверку.
Поскольку вы здесь... У нас есть небольшая просьба. Эту историю удалось рассказать благодаря поддержке читателей.
В январе стало известно , что вымогатели используют нейросети для подделки войсов в мессенджере Telegram. Преступники получают доступ к аккаунту, затем имитируют голос и начинают отправлять аудио с просьбами о переводе денег.
Накануне в канале показали Владимира Марченко в роли крестного отца. Стоит отметить, что лицо чиновника отлично вписывается в образы персонажей, а сами видео выполнены далеко не в худшем качестве. Свое мнение по поводу сгенерированного видео с использованием лица главы города высказал анонимный источник из мэрии Волгограда. То, что сделано с лицом Владимира Марченко, можно отнести скорее ко второму направлению, — говорит сотрудник администрации города. И если рассматривать это как элемент искусства, то для выбора кандидатуры в этих целях необходимо для фактора: узнаваемость героя, чье лицо применяется в дипфейке, и достаточное количество разных изображений для того, чтобы искусственный интеллект смог с ними работать. Собеседник редакции уверен, что выбор Владимира Марченко для создания таких видео, объясняется его узнаваемостью и популярностью среди жителей Волгограда и пользователей соцсетей. Однако отдельные волгоградцы в комментариях под публикацией этих дипфейков неоднократно писали о том, что не знают человека, чье лицо использовано в видео. И получая ответ на вопрос о герое дипфейка, искренне радовались, ведь наконец узнали, как выглядит глава Волгограда.
И ни горожанам, ни представителям властей не стоит беспокоиться, когда подобный контент несет лишь положительный характер. Героем подобного дипфейка развлекательного формата стал и бывший глава Тракторозаводского района, политолог, историк и знаменитый полемист Михаил Серенко. На опубликованных в телеграм-канале правозащитника и активиста Алексея Ульянова видео политолог якобы поет известные хиты. Лицо этой публикации — Михаил Серенко — рассказал, почему не воспринимает такие посты в негативном ключе и почему в стране до сих пор распространено мошенничество. Источник: Алексей Ульянов — Если это делается друзьями, а автор видео — мой друг Алексей Ульянов, здесь скрывать нечего, то я только положительно отношусь. Это дружеский прикол. Как отличить умного человека от глупого: у первого развита самоирония, обижаются дураки, — поделился Михаил Серенко. И я придерживаюсь той точки зрения, что если какой-то вид преступления не могут пресечь, то нужно искать погоны, стоящие за этим видом преступления. Если бы силовики захотели, то давно бы прекратились все эти разводы бабушек, использования искусственного интеллекта, но, видимо, пока не хотят приложить достаточно усилий, чтобы это пресечь.
По мнению волгоградского полемиста, чтобы минимизировать количество подобных преступлений, необходимо ужесточить меры уголовного наказания. Потому что срок маленький дают, а вы дайте пожизненный срок за утечку базы данных, они перестанут. Здесь вопрос не в искусственном интеллекте, от него мы никуда не денемся, со временем, в какой-то степени он всех заменит, — рассуждает Михаил Серенко. Даже без этих дипфейковых видео мошенники совершают такие виды преступлений, что волосы на голове дыбом встают. Например, взять какой-то кредит, это сложно, но мошенники с легкостью их оформляют. Любое благое начинание мошенники будут использовать против людей, то же самое и с нейросетями.
Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв
С помощью специальных программ мошенники воспроизводят голоса родных потенциальной жертвы. Для подделки голосов мошенники используют нейросеть, отметил Андрей Ефимов Фото: Александр Елизаров © Мошенники вышли на новый уровень: они подделывают не только номера телефонов,но даже голоса звонящих! О том, что мошенники подделывают голос «умного» помощника «Алиса» для того, чтобы обзванивать россиян и вводить их в заблуждение, сообщили в «Яндексе».
Правила комментирования
- Роскачество: мошенники научились подделывать голоса, чтобы красть деньги -
- Биометрия в банках
- Как работает новая схема мошенничества с подделкой голоса
- Новый прием мошенников: синтез голоса
- Подделали голос внучки. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч
- Мошенник обманывал людей, подделывая голоса близких по телефону
Могут ли мошенники подделать голос и украсть деньги со счета?
Такая запись голоса может требоваться мошенникам, поскольку качество записи телефонного разговора недостаточно для обучения нейросетей, говорит бизнес-консультант по информационной безопасности компании Positive Technologies Алексей Лукацкий: — Я не сталкивался пока с такого рода предложениями и историями, но допускаю, что мошенники тестируют разные гипотезы и выбирают из них потом наиболее эффективные. У технологии машинного обучения есть особенность: им на вход надо подавать голос совершенно различный, записанный в разных ситуациях, с разным качеством, для того чтобы синтезированный голос потом был действительно похож на настоящий. И поэтому запись именно таким образом, возможно иногда даже и студийного качества, позволяет синтезировать мошенникам голос, похожий на настоящий. Тут использовать более сложные вещи с записью голоса не требуется, но поскольку в нашей стране достаточно активно внедряется Единая биометрическая система и на биометрию переходят многие коммерческие организации, как минимум финансовые, то мошенники просто готовятся к новому витку своей деятельности. Рассылки голосовых сообщений мошенники в России используют не очень часто, говорит директор технического департамента RTM Group, эксперт в области информационной безопасности и компьютерной криминалистики Федор Музалевский: — При записи телефонного разговора качество записи ограничено восемью килогерцами, что не всегда достаточно для корректного обучения тех же нейросетей. Помимо этого, длительность разговора будет заметно меньше, и она потребует вовлеченности злоумышленника, то есть будет отрывать его от производства. Плюс у нас в стране достаточно скептическое отношение к голосовым сообщениям. У нас некоторое время назад, может быть, месяц, были случаи, когда в корпоративной рассылке использовались голосовые сообщения, но это очень редко встречается, поэтому эффективность практически нулевая. То есть у нас ни в корпоративной культуре, ни в обиходе голосовые сообщения никогда не были и в настоящий момент не являются руководством к действию. Есть ряд людей, кто обмениваются между собой голосовыми сообщениями, но подделать и отправителя, влиться в переписку практически нереально.
Дипфейк как инструмент мошенничества Правоохранительным органам давно знакомы подобные схемы, однако благодаря ИИ они вышли на принципиально новый уровень. Используя записи голосов, взятые из соцсетей, злоумышленники теперь способны очень убедительно «клонировать» голоса и заставлять их говорить нужные слова. Тенденции последних лет показывают, что для убедительного фейка нужно всё меньше данных». По словам Фарида, существуют целые сервисы клонирования голоса, абонентская плата которых составляет всего 5 долларов в месяц, а эти деньги в состоянии заплатить кто угодно. Пока что злоумышленники явно используют только заранее подготовленные записи, но, похоже, подделка голоса в режиме реального времени скоро перестанет быть чем-то экзотическим, и паникующим родственникам будут давать возможность поговорить с якобы похищенными, в надежде убедить их, что всё произошло на самом деле. Единственный эффективный способ противодействовать подобному - не выкладывать записи своего разговорного голоса в общий доступ в соцсетях. И в целом минимизировать количество персональной информации, публикуемой онлайн. И в случае любых подозрительных действий - постарайтесь дозвониться по реальному номеру». Фарид также отметил, что текущие версии ИИ-генераторов не позволяют с высокой степенью убедительности воспроизводить широкий диапазон эмоций, но в теории могут имитировать крик или плач.
Поэтому важно критически относиться к любому общению в Сети и обращать внимание не только на технические детали, говорит Гараев. Например, если ваш якобы коллега общается в непривычном тоне или вдруг стал использовать непривычную лексику — это тоже повод насторожиться. Наконец, если в вашем окружении не принято отправлять аудио- и видеосообщения, но вдруг вы получили их сразу несколько и сразу с просьбами о переводе денег, то самое правильно в этом случае — насторожиться. Как защитить от мошенников себя и своих родных Чтобы ваш голос и лицо не стали образцами для обучения нейронных сетей, следуйте нескольким простым правилам: Не рассказывайте много о себе в интернете. Не публикуйте в социальных сетях много личных фотографий и видеоматериалов. Ограничьте доступ к вашим соцсетям списком друзей и близких.
Это полностью не избавит от проблем, но снизит возможный риск. Не отправляйте свои личные данные, фотографии и видео другим людям без необходимости. Будьте осторожны при звонках с незнакомых номеров, не спешите первым отвечать, используя «Да», «Согласен», «Подтверждаю». Ставьте надежные пароли и подключите двухфакторную аутентификацию везде, где это возможно. Не используйте биометрию как единственный метод аутентификации. Вам позвонили из Банки.
Первые отчеты о применении технологии ИИ в схемах обмана по телефону западные эксперты начали получать с 2022 года. Справочно: Правильнее будет говорить не про искусственный интеллект, а именно про нейросеть с машинным обучением на основе искусственного интеллекта. Технологические прорывы в сфере ИИ еще впереди. Чтобы машина получила полноправное звание искусственного интеллекта, она должна пройти самостоятельно, как минимум, тест Тьюринга. Благодаря имеющимся уже технологиям хакерам достаточно всего лишь 20-секундного фрагмента с разговором, взятым из социальной сети, для создания клона голоса любого человека. Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота. Схема обмана та же, но инструменты более прогрессивные.
ИИ звонит и просит перевести деньги. Преступники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП.
Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв
Подробности напишу ниже». Технически подкованные преступники могут подделать аудиозапись с любым текстом через нейросеть — для этого достаточно найти образец голоса на 10—15 секунд. Чем больше материала удастся собрать, тем убедительнее будет подделка. Готовое голосовое — это козырь, который преступники разыгрывают по-разному. Одни отправляют его в начале переписки, чтобы сразу обескуражить жертву. Другие — по ходу разговора, когда получатель больше всего сомневается в правдоподобности происходящего. Выбор метода зависит от содержания аудиосообщения, которое удалось смонтировать мошенникам. Если они склеили из старых фрагментов фразу вроде «Привет.
Одолжи денег», ее отправляют в начале диалога. В остальных случаях действуют по ситуации. Преступники пока только осваивают новый метод. В день мы пресекаем одну-две попытки подобного обмана наших клиентов. Будьте бдительны и не переводите с ходу деньги, кто бы вас об этом ни просил.
Кроме того, важно ограничивать доступ к профилю, чтобы личную информацию пользователя могли видеть только его доверенные люди. Как распознать мошенника, признаки обмана Между тем пока еще голосовые дипфейки можно выявить по ряду признаков.
По словам Сергея Голованова, если вы разговариваете с человеком во время звонка в реальном времени, то отличить речь знакомого человека от подделки будет довольно просто. Правда, злоумышленники обычно звонят по «экстренным» причинам, поэтому потенциальным жертвам не всегда удается мыслить логически, — говорит в беседе с «Известиями» Александр Самсонов. В то же время, по словам Самсонова, в ситуациях, когда вам «экстренно» звонит тот, кто представляется вашим близким человеком, стоит обращать внимание на ряд моментов. Во-первых, если ваш друг, родственник или знакомый раньше никогда не просил по телефону переводить ему деньги или сообщать какую-то важную информацию, то подобная просьба — это повод насторожиться. Поскольку злоумышленники нередко звонят ночью, многие люди, особенно старшего возраста, «стесняются» позвонить близким и узнать, всё ли с ними в порядке. Поэтому стесняться не надо — пусть лучше произойдет небольшой конфликт с близким, чем мошенники выманят крупные суммы денег. Причем то же самое правило касается общения не только по телефону, но и в мессенджерах.
В заключение специалист рекомендует отключить звук или возможность звонить для неизвестных номеров в настройках конфиденциальности мессенджеров, чтобы злоумышленники не могли позвонить с поддельного аккаунта.
Полицейские задержали подозреваемого уже через несколько дней, и старались чтобы на очной ставке родственники обманутой женщины не устроили самосуд. Сам же задержанный говорит, что забрать деньги его просто попросили. Но зачем он тогда следил за женщиной? Известно, что злоумышленники таким образом обманули как минимум четверых. В общей сложности им удалось заработать 270-т тысяч. В настоящее время оперативники ищут подельников задержанного.
Евгения Егорова, в одном мошенническом сценарии злоумышленники заставляли детей отдавать курьерам сбережения семьи, используя смоделированный голос родственника.
Среди других распространенных способов мошенничества с использованием дипфейков и социальной инженерии Мельников назвал обход систем безопасности в сервисах с голосовой идентификацией, а также создание видеоконтента с использованием лиц и голосов знаменитостей. Последний способ, к примеру, используют для «продвижения» несуществующих инвестиционных проектов, добавляет старший исследователь данных «Лаборатории Касперского» Дмитрий Аникин. Сами данные для подделки голоса собираются в процессе обычного телефонного разговора злоумышленника с жертвой, поясняет он. По словам Семенычева, мошеннические схемы, связанные с подделкой изображения или видео, распространены в меньшей степени, так как более сложны и ресурсоемки. Такие активности в основном направлены на нанесение репутационного ущерба, уточняет он. При этом в действующей практике использование дипфейков чаще встречается не для имитации клиента или его знакомого, а для сокрытия внешности преступника, чтобы было невозможно установить его личность и задокументировать следы преступления, поясняет представитель ВТБ. В таких случаях чаще используются «личности» известных актеров или политиков, а также случайных пользователей, не связанных с атакуемым клиентом, уточняет он.
Прозвони мне, прозвони. IT-эксперты рассказали, как мошенники подделывают голоса россиян
В это же время её муж проверял действительно ли звонили с телефона дочери. Номер высвечивался её, но дозвониться родители не смогли. В конечном итоге мать с отцом «похищенной» отправились в полицейский участок. Там воспользовались своим доступом к телекоммуникационной базе данных и определили — входящий звонок на самом деле шёл с виртуального номера, который начинался на «00» и был подменен на номер дочери. Это дало повод полицейским сказать родителям, что те столкнулись с мошенниками и что не надо пересылать им каких-либо денег. В конечном итоге, разумеется, именно так и оказалось. Девушка оказалась жива-здорова, никто её не похищал, а родители не потеряли свои деньги. Что нужно сделать, чтобы не обманули телефонные мошенники, которые используют нейросети? Современные нейросети с большой убедительностью подделывают голос в потоковом режиме и с меньшей способны подделать видео в живом разговоре. Последнее, впрочем, упирается в доступную вычислительную мощность и при наличии некоторого количества видеокарт можно будет убедительно изменить свою внешность в хорошем разрешении и в режиме реального времени.
Перезвони Итак, вам позвонил кто-то из друзей и родственников и заявил, что ему срочно нужны деньги. Первым делом необходимо позвонить на номер этого человека. Одно дело подделать номер для исходящего звонка, другое дело для входящего. В идеале, стоит совершить видеозвонок на случай того, что технические возможности мошенников ограничены только подделкой голоса. Если же есть сомнения даже во время видеозвонка, то стоит спросить собеседника о чём-то, что известно только ему. Желательно что-то крайне каверзное, что не мелькало в переписке вполне возможно, что через какое-то время можно будет натравить нейросети и на неё тоже при взломе — скорее всего, этого будет достаточно, чтобы понять с кем разговариваешь. Зеркало — друг Еще один способ — попросить собеседника подойти к зеркалу. Нейросеть сможет заменить лицо, но крайне маловероятно, что нейросеть с такой же лёгкостью сможет обсчитать отражение в зеркале.
Сегодня существуют технологии, позволяющие распознать подделку голоса, однако угроза все же существует. Поэтому в Роскачестве настоятельно рекомендуют не брать трубку, если кто-либо звонит с подозрительного или просто незнакомого номера, проявлять крайнюю осторожность, размещая в мессенджерах или социальных сетях голосовые сообщения и другой контент.
Кроме того, необходимо регулярно использовать антивирусное и антишпионское ПО, чтобы своевременно обнаруживать программы, способные украсть персональную информацию.
Звонок действительно поступает, но с подменного номера, а на другом конце провода — мошенники, которые представляются полицейскими, выманивают данные банковской карты, CVV-код и код из CMC-сообщения. При этом специалисты заверяют, что пик звонков от мошенников из якобы банков пока не пройден. По их мнению, в будущем году злоумышленники будут переходить на клиентов небольших финансовых организаций, которым звонки такого рода поступали редко. Также эксперты предполагают, что участятся сообщения и звонки о фиктивных выигрышах, которые можно будет забрать только после оплаты некой комиссии. Центробанк РФ составил список основных признаков телефонных мошенников. Также клиента должно насторожить, если разговор с незнакомцем касается перевода денег или оплаты чего-либо. Еще одним из признаков специалисты называют поступление от собеседника "выгодных" предложений или, наоборот, попытки запугать возможной потерей денег, а также сильное моральное давление и требование немедленного принятия решения. Можно ли распознать по голосу телефонного мошенника?
Руководитель аналитического центра Zecurion Владимир Ульянов рассказал Москве 24, что мошеннические схемы, связанные с подменой голоса, встречаются в единичном варианте. По его словам, сейчас мошенники пользуются более простыми схемами, которые до сих пор, к сожалению, остаются эффективными.
Если друг не отвечает, надежнее всего подождать, пока связь наладится. Деньги редко бывают нужны настолько срочно, чтобы несколько часов имели значение. Например, в нашей истории цена вопроса — всего лишь возможный штраф за небольшую просрочку взноса. Если в чате вас продолжают торопить, это очень подозрительно. Подробнее о том, как взять паузу, чтобы вам не помешали, рассказывают в первом уроке курса «Как защититься от мошенников». Попросить записать несколько голосовых, если все-таки нет возможности позвонить. Чтобы сделать убедительное аудиосообщение, преступнику придется потратить несколько часов на работу, поэтому он начнет увиливать: «Ты меня обижаешь, мы сто лет дружим» или «К чему этот детский сад, ты что, мне не доверяешь? У реального человека нет причин не выполнить подобную просьбу.
Не переводить деньги по номеру карты. Мошенник отправил знакомому фото банковской карты с номером, именем и фамилией Дениса — видимо, подделал реквизиты в «Фотошопе». Карта не была привязана к телефону и СБП, поэтому приложение банка не показывало получателя. Преступнику это на руку.
Полицейские показали, как мошенники подделывают свой голос
С помощью специальных программ злоумышленники подделывают голоса родных, друзей или коллег. Глава Сбербанка Герман Греф сообщил о телефонных мошенниках, которые совершают атаки на клиентов банков с помощью подделки голоса. Новости Технологии 29 июля 2022. Телефонные мошенники начали подделывать голос «Алисы». Мошенники начали подделывать голоса россиян с помощью искусственного интеллекта. Об этом сообщает РИА Новости со ссылкой на данные Центробанка. В 2020 году мошенники клонировали голос директора банка в ОАЭ и использовали его для ограбления финучреждения. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ.
Содержание
- Цифровая гигиена
- Мошенники начали подделывать голоса: Луки.ру выяснили, смогут ли они оформить кредит в банке
- В Петрозаводске истекающий кровью мужчина выпрыгнул в окно и добежал до магазина
- Телефонные мошенники стали подделывать номера и голоса родственников - Бинкор
- Цифровая гигиена
- Роскачество: мошенники научились подделывать голоса, чтобы красть деньги -