«Я сам сталкивался с тем, что мне звонили мошенники и включали синтез голоса моего ребёнка. Телефонные мошенники научились подделывать голоса, ЦБ РФ предупредил о новых видах мошенничества с нейросетями в Волгограде. Оформить ссуду с помощью подделки голоса мошенники, скорее всего, не могут, утверждает юрист Евгения Боднар.
Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
Эксперты утверждают, чтобы подделать чужой голос нейросети необходим образец. Мошенничество с клонированием голоса появилось относительно недавно и уже встречается в западных странах. Мошенники стали использовать для вымогательства денег созданные ИИ голосовые сообщения от имени владельца аккаунта в соцсетях или мессенджерах. Мошенники начали подделывать голоса россиян с помощью искусственного интеллекта. Об этом сообщает РИА Новости со ссылкой на данные Центробанка. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. Мошенники научились подделывать человеческий голос для более эффективного вымогательства.
Как работает новая схема мошенничества с подделкой голоса
В Банке России предупредили об использовании мошенниками программ для подделки голосов с целью обмана россиян, сообщает РИА Новости со ссылкой на ЦБ РФ. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку. Проверить подлинность подделанного голоса или видео можно лишь технически, предупреждает Семенычев. По словам Шамиля Магомедова, заведующего кафедрой “Интеллектуальные системы информационной безопасности” Института кибербезопасности и цифровых технологий РТУ МИРЭА, телефонные мошенники действительно научились подделывать голоса людей. Мошенники могут попытаться с полученной записью голоса обратиться в банк, чтобы от имени другого клиента совершить различные финансовые операции.
Мошенники начали подделывать голоса: Луки.ру выяснили, смогут ли они оформить кредит в банке
По его словам, мошенники знают, что люди неохотно говорят с силовиками, поэтому жертвы достаточно легко выдают информацию или совершают действия, которые от них требуют. Даже статистически получается так, что 95 процентов звонков — это мошенники. Поэтому не стоит как-то из-за этого сильно переживать, а просто сбросить телефонный звонок и перезвонить в ту организацию, сотрудником которой представлялся звонящий. Если это правоохранительные органы, то нужно звонить в полицию", — разъяснил собеседник Москвы 24.
Также эксперт предостерег от активного общения с мошенниками и их разоблачения. Даже знакомый с преступными схемами человек может попасться на удочку, уверен Ульянов. Мошенники — люди достаточно опытные, скорее всего, они обзвонили не одну тысячу потенциальных жертв, простыми вопросами их не ошарашишь.
Обычно у них есть четкие легенды, и они точно знают, что ответить. Более того, истории готовятся другими людьми, которые более опытны в этих вещах, — чаще всего психологами. Владимир Ульянов руководитель аналитического центра Zecurion Эксперт в области информационной безопасности Александр Власов в разговоре с Москвой 24 посоветовал получше следить за разговорами коллег и друзей, чтобы быстро узнавать их манеру голоса.
Например, для завлечения человека нажать на какую-то ссылку, чтобы тот скачал вредоносный файл и так далее. Под удар попал даже мэр Марченко Искусство создания дипфейковых видео изучили не только мошенники, но и авторы волгоградских телеграм-каналов. Не так давно широкое распространение в сети получили несколько сгенерированных видео с использованием лица мэра Волгограда Владимира Марченко, в которых он предстает в образах героев известных фильмов и рэперов. В следующем — играет роль Уильяма Уоллеса в известном фильме «Храброе сердце». Накануне в канале показали Владимира Марченко в роли крестного отца.
Стоит отметить, что лицо чиновника отлично вписывается в образы персонажей, а сами видео выполнены далеко не в худшем качестве. Свое мнение по поводу сгенерированного видео с использованием лица главы города высказал анонимный источник из мэрии Волгограда. То, что сделано с лицом Владимира Марченко, можно отнести скорее ко второму направлению, — говорит сотрудник администрации города. И если рассматривать это как элемент искусства, то для выбора кандидатуры в этих целях необходимо для фактора: узнаваемость героя, чье лицо применяется в дипфейке, и достаточное количество разных изображений для того, чтобы искусственный интеллект смог с ними работать. Собеседник редакции уверен, что выбор Владимира Марченко для создания таких видео, объясняется его узнаваемостью и популярностью среди жителей Волгограда и пользователей соцсетей.
Однако отдельные волгоградцы в комментариях под публикацией этих дипфейков неоднократно писали о том, что не знают человека, чье лицо использовано в видео. И получая ответ на вопрос о герое дипфейка, искренне радовались, ведь наконец узнали, как выглядит глава Волгограда. И ни горожанам, ни представителям властей не стоит беспокоиться, когда подобный контент несет лишь положительный характер. Героем подобного дипфейка развлекательного формата стал и бывший глава Тракторозаводского района, политолог, историк и знаменитый полемист Михаил Серенко. На опубликованных в телеграм-канале правозащитника и активиста Алексея Ульянова видео политолог якобы поет известные хиты.
Лицо этой публикации — Михаил Серенко — рассказал, почему не воспринимает такие посты в негативном ключе и почему в стране до сих пор распространено мошенничество. Источник: Алексей Ульянов — Если это делается друзьями, а автор видео — мой друг Алексей Ульянов, здесь скрывать нечего, то я только положительно отношусь. Это дружеский прикол. Как отличить умного человека от глупого: у первого развита самоирония, обижаются дураки, — поделился Михаил Серенко. И я придерживаюсь той точки зрения, что если какой-то вид преступления не могут пресечь, то нужно искать погоны, стоящие за этим видом преступления.
Если бы силовики захотели, то давно бы прекратились все эти разводы бабушек, использования искусственного интеллекта, но, видимо, пока не хотят приложить достаточно усилий, чтобы это пресечь. По мнению волгоградского полемиста, чтобы минимизировать количество подобных преступлений, необходимо ужесточить меры уголовного наказания. Потому что срок маленький дают, а вы дайте пожизненный срок за утечку базы данных, они перестанут.
Возьмем любой ваш сюжет, тут вы говорите что-то, мы возьмем этот голос, дальше закинем в программу", — рассказал специалист по информационной безопасности Роберт Симонян. Нейронная сеть думает и достаточно быстро выдает черновую версию. По тексту, который ей написали.
Похоже, кажется, близкие и родные, конечно, заметят разницу, а вот остальные — нет. Хотя это — стопроцентный фейк. От массового применения нового типа интернет-попрошайничества пока оберегают сами технологии. На создание копии голоса нейросети сейчас нужно много времени. Ну и также стоит понимать, что конечный результат тоже не всегда идеален, приходится что-то обрабатывать", — рассказал Симонян. Подделку голоса можно отличить как раз по чрезмерной обработке.
Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться.
Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия.
Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе ИИ. Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека. С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет.
Однако ведущие российские банки не используют систему управления счетом с помощью голоса. Например, в СберБанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека. Банки сохраняют ваш голос в биометрической базе только для того, чтобы автоматически распознавать его при звонках в техническую службу поддержки банка.
К тому же существует опасение, что мошенники запишут ваш голос и передадут в Единую биометрическую систему или биометрические системы банков. Однако, несмотря на возможность утечки биометрии из банковского хранилища, использовать ее для несанкционированной идентификации невозможно. Причина состоит в самом процессе идентификации.
Когда вы сдаете биометрические данные в базу, сохраняется не конкретное фото лица или одна аудиозапись голоса, а некий ее слепок в виде набора ваших характерных признаков.
Мошенники научились подделывать аудио и видео с помощью ИИ - Москва 24
Обычно мошенники надевают на себя маску родственника жертвы и меняют голос, а потом рассказывают душераздирающую историю о том, как они попали в беду и что им срочно нужны деньги. Подделывать голоса мошенники могли задолго до появления нейросети. Новости Технологии 29 июля 2022. Телефонные мошенники начали подделывать голос «Алисы». Мошенники начали чаще подделывать голоса родных и знакомых тех, кому они звонят, сообщили в Центробанке. Эксперты по кибербезопасности отмечают рост использования аудиодипфейков для мошеннических звонков в мессенджерах — подделку голоса руководителя компании для авторизации перевода средств. Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта (ИИ) могут имитировать голос позвонившего вам знакомого или родственника.
ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян
И попытался представить, что у дочки сейчас на самом деле все в порядке и стал названивать ей на мобильный. А вот тут меня накрыла уже вторая волна липкого ужаса. В трубке автомат ответил, что абонент отключен или находится вне зоны действия сети. Я тут же отчетливо увидел на черно-красном от крови асфальте раздавленный мобильник. Затем дочку на операционном столе и уже стал сомневаться, что это был розыгрыш. В этот момент вновь позвонил тот самый, незнакомый номер и плачущая девочка с голосом моей дочери начала вновь рассказывать ту же историю с самого начала. Причем слово в слово. Если по второму кругу включили ту же шарманку, значит это не просто мошенники с голосом моего ребенка. Нормальные, пусть даже и преступники, люди, сообразили бы, что раз я бросил трубку, значит я их раскусил.
И второй раз звонить бы уже не стали. Робот, с точной копией голоса моего ребенка. На этот раз раздался третий звонок. На этот раз меня окатила волна спасения, радости и счастья. Извини, мне просто стали лечить второй зуб, и я телефон отключила. После этого случая «незнакомый телефон» меня больше не беспокоил.
Пока это все эксперименты, но вполне вероятно, что в будущем они будет развиваться и совершенствоваться. Как все происходит? Искусственный интеллект «обучают» определенному голосу. Затем вшивается определенный текст, а нейросеть озвучивает его. Таким образом, формируется файл, который зачитывает определенное сообщение. Например, «Маша, отправь мне срочно деньги». Однако, чтобы создать такое сообщение, мошенникам необходимо иметь много исходных записей нужного голоса. Но где они их берут? На днях актер народный артист России Сергей Безруков рассказал, что чуть не стал жертвой аферистов. Он получил голосовое сообщение от своего «коллеги по цеху» - Константина Хабенского. Якобы тот ищет инвесторов для строительства медицинского комплекса для детей-инвалидов. Актер предложил Безрукову поучаствовать в этом. Расчет мошенников — это невнимательность и доверчивость их жертв. Он снимался в фильмах, давал интервью, озвучивал аудиокниги.
О том, что такая схема набирает популярность, говорится в исследовании компании по кибербезопасности Angara Security есть в распоряжении «Ведомостей». По словам представителя Angara Security, большая часть таких объявлений размещена в Telegram, но используются и другие ресурсы, например Habr или спам-звонки с предложением заработать на «большом проекте». Согласно исследованию, количество таких сообщений без учета спам-звонков в 2021 г. Авторы таких объявлений просят предоставить аудиозапись в формате телефонного звонка или записи разговора, которую необходимо отправить личным сообщением или боту. За участие в проекте предлагают гонорар от 300 до 5000 руб. Для этого изначально нужен реальный голос человека, чтобы придать достоверность аудиосообщениям. Созданные таким образом голосовые сообщения могут адресоваться родственникам, коллегам по работе, которых часто легко определить по данным в открытом доступе, а также банковским сервисам и другим интересующим мошенников целям», — пояснил представитель Angara Security. Но оценить возможный ущерб от мошенничества именно с использованием дипфейков пока довольно трудно, так как случаев, которые удалось бы отследить или предотвратить, еще немного.
Технологии искусственного интеллекта в скором времени позволят совмещать звук и изображение. Выглядеть это будет как видеозвонок от знакомого человека. Вы можете, к примеру, увидеть видео человека, который может делать всё, что угодно. Мошенники получают гибкий инструмент для манипуляции», — предупреждает эксперт. Эльдар Муртазин считает, что необходимо как можно скорее принять меры по регулированию сферы искусственного интеллекта. В Китае, например, если создаётся искуственный персонаж, например ведущий ток-шоу, должно быть указано, что это не реальный человек, а картинка, синтезируемая программой. Подобное нужно делать и в России, поскольку люди начинают верить, что несуществующие персонажи являются обычными людьми», — уверен эксперт. В 2023 году мошенники похитили у граждан 19 млрд рублей. Люди не только отдают злоумышленникам свои кровные, но и берут для них деньги в долг.
Эксперт рассказал, как распознать в телефонном собеседнике мошенника
Ранее ЦБ РФ рассказал о новой схеме, которую начали использовать телефонные мошенники.
Затем человеку звонит второй злоумышленник, якобы для идентификации личности клиента по биометрии. Он просит включить режим демонстрации экрана и зайти в мобильное приложение банка. Трансляция экрана позволяет мошенникам увидеть номера карт, суммы на счетах, коды в смс от банка и другую информацию. Данный способ мошенничества появился около двух месяцев назад, рассказывает эксперт по информационной безопасности, генеральный директор Phishman Алексей Горелкин. Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Такой способ был, он применялся на школьниках: покажите, а что у вас за карта, а у ваших родителей какие карты, зайдите к себе в телефон, в общем, была такая схема, чтобы люди, которые не шибко разбираются в цифровых технологиях, но при этом имеют доступ к устройству родителей, могли предоставить злоумышленникам необходимую информацию. Я надеюсь, что такая схема все-таки не самая рабочая, потому что людей должны настораживать такие действия, которые ранее от них не просил ни банк, ни кто-либо еще. Благодаря в том числе просветительской деятельности, все меньше и меньше получается успешных атак. Злоумышленники почему и усложняют свои атаки, делают звонки не с одного номера, а с двух, трех, четырех, там ФСБ как будто звонит, кто-то еще как будто звонит.
Почему они, к примеру, начали теперь просить деньги не переводить или сообщать код из СМС-сообщения, а просят деньги снимать и передавать их человеку? Все потому, что все меньше людей ведутся на их разводки.
Также нужно установить везде двухфакторную аутентификацию. То есть, чтобы при входе в аккаунт на телефон или электронный адрес приходило подтверждение авторизации.
Кроме того, важно устанавливать и пользоваться только теми программами, которые размещены на официальных сайтах производителя. Если же профиль все же взломали, то стоит связаться техподдержкой социальной сети. В случае мошеннических действий нужно обратиться в правоохранительные органы.
Во время общения они просят оплатить определенный счет. Другая схема преступников заключается в том, что лжесотрудник службы безопасности банка предупреждает о звонке из правоохранительных органов в ближайшее время. Звонок действительно поступает, но с подменного номера, а на другом конце провода — мошенники, которые представляются полицейскими, выманивают данные банковской карты, CVV-код и код из CMC-сообщения.
При этом специалисты заверяют, что пик звонков от мошенников из якобы банков пока не пройден. По их мнению, в будущем году злоумышленники будут переходить на клиентов небольших финансовых организаций, которым звонки такого рода поступали редко. Также эксперты предполагают, что участятся сообщения и звонки о фиктивных выигрышах, которые можно будет забрать только после оплаты некой комиссии. Центробанк РФ составил список основных признаков телефонных мошенников. Также клиента должно насторожить, если разговор с незнакомцем касается перевода денег или оплаты чего-либо. Еще одним из признаков специалисты называют поступление от собеседника "выгодных" предложений или, наоборот, попытки запугать возможной потерей денег, а также сильное моральное давление и требование немедленного принятия решения.
Можно ли распознать по голосу телефонного мошенника?
Украденные голоса: мошенники осваивают новый способ обмана россиян
С его помощью мошенники начали создавать аудиосообщения и вымогать средства. Преступная схема следующая: сначала злоумышленник взламывает аккаунт пользователя в Telegram или WhatsApp принадлежит корпорации Meta, которая признана экстремистской и запрещена в России и скачивает оттуда голосовые сообщения. Затем нейросеть, используя полученные данные, создает новые сообщения, с помощью которых мошенник вымогает деньги. Искусственному интеллекту достаточно и трех секунд речи оригинального носителя для того, чтобы дипфейк получился убедительным. Можно качественно подделать тембр и интонацию человека.
Но есть способы бороться с мошенниками.
Например, задавать побольше уточняющих вопросов своим якобы родственникам. Также нужно для общения с друзьями и родственниками в экстренных ситуациях придумать кодовое слово, которое будет паролем. Вот только даже договариваться об этом слове лучше лично, с глазу на глаз и не пользуясь Интернетом или телефоном. Все выпуски программы « Центральное телевидение ». Картина дня.
Из-за комплексного и детализированного подхода мошенники сейчас могут подделать буквально все. Но как им это удается? Оказывается, очень просто.
Например, сделать цифровой клон знаменитости довольно легко. Это касается и голоса. Как рассказал изготовитель дипфейков, украсть голос можно не только у знаменитости, а вообще у любого человека. В телефонном разговоре, если вам звонят с незнакомого номера, постарайтесь по максимуму выяснить, что это за люди, не мошенники ли они, и максимально скоро прервите эту беседу.
Нейронная сеть думает и достаточно быстро выдает черновую версию. По тексту, который ей написали. Похоже, кажется, близкие и родные, конечно, заметят разницу, а вот остальные — нет. Хотя это — стопроцентный фейк. От массового применения нового типа интернет-попрошайничества пока оберегают сами технологии. На создание копии голоса нейросети сейчас нужно много времени.
Ну и также стоит понимать, что конечный результат тоже не всегда идеален, приходится что-то обрабатывать", — рассказал Симонян. Подделку голоса можно отличить как раз по чрезмерной обработке. Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться. Но главное: голос нейросети все равно звучит немного механически.
ЦБ: Мошенники начали подделывать голоса родных и знакомых россиян
Роскачество: мошенники научились подделывать голоса, чтобы красть деньги | Как сообщили специалисты Центра цифровой экспертизы Роскачества, мошенники научились имитировать голос человека с помощью нейросети. |
Мошенники подделывают голоса и крадут деньги | Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта могут имитировать голос позвонившего вам знакомого или родственника. |
Мошенники подделывают голоса и крадут деньги | Кроме того, мошенники могут менять голос, имитируя близких людей. |
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян | В 2020 году мошенники клонировали голос директора банка в ОАЭ и использовали его для ограбления финучреждения. |
Как работает новая схема мошенничества с подделкой голоса | 15 миллионов звонков в день совершали телефонные мошенники в России в апреле, почти в два раза больше чем в прошлом году. |
Мошенники подделывают голоса и крадут деньги
Я положил трубку. И попытался представить, что у дочки сейчас на самом деле все в порядке и стал названивать ей на мобильный. А вот тут меня накрыла уже вторая волна липкого ужаса. В трубке автомат ответил, что абонент отключен или находится вне зоны действия сети.
Я тут же отчетливо увидел на черно-красном от крови асфальте раздавленный мобильник. Затем дочку на операционном столе и уже стал сомневаться, что это был розыгрыш. В этот момент вновь позвонил тот самый, незнакомый номер и плачущая девочка с голосом моей дочери начала вновь рассказывать ту же историю с самого начала.
Причем слово в слово. Если по второму кругу включили ту же шарманку, значит это не просто мошенники с голосом моего ребенка. Нормальные, пусть даже и преступники, люди, сообразили бы, что раз я бросил трубку, значит я их раскусил.
И второй раз звонить бы уже не стали. Робот, с точной копией голоса моего ребенка. На этот раз раздался третий звонок.
На этот раз меня окатила волна спасения, радости и счастья. Извини, мне просто стали лечить второй зуб, и я телефон отключила.
Но есть общее правило: не разговаривать с мошенниками. Это небезопасно. Задача злоумышленника - как можно дольше держать с вами контакт и за это время нащупать, на что вы реагируете как жертва, и использовать.
Так что даже если бы не было дипфейков, разговор с мошенниками - очень плохая идея. Нужно как можно быстрее сбрасывать звонок и блокировать номер", - посоветовал он.
Старший инспектор полиции Тайлер Чан Чи-Винг сказал, что существует несколько способов проверить реальность личности человека на видеовстрече. Так, его можно попросить покрутить головой, а также ответить на вопросы, ответы на которые может знать только он. Теперь полиция намерена расширить свою службу оповещений, включив в неё систему быстрых платежей FPS , чтобы предупреждать пользователей о том, что они переводят деньги на мошеннические счета. В 2020 году мошенники клонировали голос директора банка в ОАЭ и использовали его для ограбления финучреждения. Между тем эксперты по кибербезопасности F. С помощью ИИ хакеры подделывают голоса руководителей компании для авторизации перевода средств.
За основу берется информация, которую россияне размещают в соцсетях - это данные о родственниках, друзьях, работе или досуге. Поэтому лучше скрывать от посторонних глаз личную и финансовую информацию. Также необходимо быть осторожными при пересылке важных сведений например, документов с помощью мессенджеров.
Не сообщайте данные банковских карт и другую конфиденциальную информацию владельцам сомнительных сайтов. Не совершайте операции по переводу денежных средств, не выполняйте команды посторонних лиц, поступающие по телефону.