Такая запись голоса может требоваться мошенникам, поскольку качество записи телефонного разговора недостаточно для обучения нейросетей, говорит бизнес-консультант по информационной безопасности компании Positive Technologies Алексей Лукацкий. Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку. Чтобы мошенники не подделали ваш голос и не позвонили кому-то от вашего имени, не разговаривайте с незнакомыми людьми по телефону и не называйте слова "да" и "нет". Также развивается технология deepfake: преступники подделывают голос близких людей жертв.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
Подделывать голоса мошенники могли задолго до появления нейросети. Глава Сбербанка Герман Греф сообщил о телефонных мошенниках, которые совершают атаки на клиентов банков с помощью подделки голоса. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
Злоумышленники ввели в заблуждение сотрудника компании, используя сымитированный с помощью искусственного интеллекта голос его руководителя. Как сообщает The Wall Street Journal, гендиректор одной британской энергетической фирмы предполагал, что разговаривает по телефону со своим руководителем, исполнительным директором из Германии. Босс позвонил своему подчиненному и попросил его незамедлительно перевести 243 тысячи долларов поставщику из Венгрии. Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника.
Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота", — сказал эксперт. Схема обмана та же: ИИ звонит и просит перевести деньги. Преступники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП. Кузьменко посоветовал сразу перезвонить своим родным и знакомым, от которых и была получена просьба. Еще лучше придумать кодовое слово, для своих, чтобы можно было понять: звонят родные, а не мошенники. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Технология называется "дипфейк" от англ.
Это касается и голоса. Как рассказал изготовитель дипфейков, украсть голос можно не только у знаменитости, а вообще у любого человека. В телефонном разговоре, если вам звонят с незнакомого номера, постарайтесь по максимуму выяснить, что это за люди, не мошенники ли они, и максимально скоро прервите эту беседу. Чем больше слов вы успеете наговорить, тем больше речи они могут в теории у вас украсть. И воспользоваться уже в своих целях.
Также у мошенников есть и другое оружие: полная информация о потенциальной жертве. Как отпечатки на песке, человек всюду оставляет свои цифровые следы.
Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека. С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Однако ведущие российские банки не используют систему управления счетом с помощью голоса. Например, в СберБанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека.
Банки сохраняют ваш голос в биометрической базе только для того, чтобы автоматически распознавать его при звонках в техническую службу поддержки банка. К тому же существует опасение, что мошенники запишут ваш голос и передадут в Единую биометрическую систему или биометрические системы банков. Однако, несмотря на возможность утечки биометрии из банковского хранилища, использовать ее для несанкционированной идентификации невозможно. Причина состоит в самом процессе идентификации. Когда вы сдаете биометрические данные в базу, сохраняется не конкретное фото лица или одна аудиозапись голоса, а некий ее слепок в виде набора ваших характерных признаков. При этом восстановить по таким данным фото или голос человека практически невозможно.
Помните, что банки заинтересованы в конфиденциальности данных своих клиентов, ведь несанкционированные операции могут нанести удар по их репутации и привести к финансовым потерям. Для создания убедительного аудиосообщения преступники используют нейросети, с помощью которых можно воспроизвести интонацию, тембр голоса и особенности речи конкретного человека.
Мошенники научились подделывать ваш голос: стоит ли опасаться
| Роскачество: мошенники научились подделывать голоса, чтобы красть деньги | Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. |
| Могут ли мошенники подделать голос и украсть деньги со счета? | Эксперты объясняют от Роскачества | Нередко аферисты подделывают голос родственников или знакомых потенциальной жертвы. |
| Мошенники активно выманивают образцы голоса россиян | Мошенник подделал голос друга и выманил 50 000 ₽. |
| Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны | Напомним, ранее россиян предупредили о новом способе мошенничества в «Телеграме» и во «ВКонтакте» — мошенники научились подделывать голосовые сообщения в мессенджерах с помощью искусственного интеллекта. |
Последние новости
- Мошенники с помощью искусственного интеллекта запугивают родителей голосами родных детей
- Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
- Как работает новая схема мошенничества с подделкой голоса
- «Совпадение полное»: мошенники подделывают голоса родных и близких
Эксперт рассказал, как распознать в телефонном собеседнике мошенника
Во время общения они просят оплатить определенный счет. Другая схема преступников заключается в том, что лжесотрудник службы безопасности банка предупреждает о звонке из правоохранительных органов в ближайшее время. Звонок действительно поступает, но с подменного номера, а на другом конце провода — мошенники, которые представляются полицейскими, выманивают данные банковской карты, CVV-код и код из CMC-сообщения. При этом специалисты заверяют, что пик звонков от мошенников из якобы банков пока не пройден. По их мнению, в будущем году злоумышленники будут переходить на клиентов небольших финансовых организаций, которым звонки такого рода поступали редко. Также эксперты предполагают, что участятся сообщения и звонки о фиктивных выигрышах, которые можно будет забрать только после оплаты некой комиссии.
Центробанк РФ составил список основных признаков телефонных мошенников. Также клиента должно насторожить, если разговор с незнакомцем касается перевода денег или оплаты чего-либо. Еще одним из признаков специалисты называют поступление от собеседника "выгодных" предложений или, наоборот, попытки запугать возможной потерей денег, а также сильное моральное давление и требование немедленного принятия решения. Можно ли распознать по голосу телефонного мошенника?
Греф рассказал о мошенниках, подделывающих голос и изображение клиентов банков 27 января 202114:26 Редакция НСН Поделиться Глава Сбербанка Герман Греф сообщил о телефонных мошенниках, которые совершают атаки на клиентов банков с помощью подделки голоса. По его словам, злоумышленники используют технологии искусственного интеллекта, так называемой технологии дипфейк, когда могут быть смоделированы изображение и голос человека, передает РИА Новости.
За борьбу с подделками решили взяться на государственном уровне Как отмечает Александров, сегодня круг потенциально успешных атак мошенников расширяется за счет того, что голос, имитированный ИИ, действительно стал похож на оригинал, и в зоне риска находятся люди, которые знают о подобных мошеннических атаках, но не в курсе применения современных технологий в сфере копирования голоса. Как не стать жертвой мошенника Для того чтобы создать голосовой дипфейк, имитирующий речь конкретного человека, злоумышленникам нужны образцы его голоса. Как говорит главный эксперт «Лаборатории Касперского» Сергей Голованов, при наличии нескольких образцов голоса мошенники могут с помощью нейросети создать аудиозапись с необходимым им содержанием. Однако в режиме реального времени создавать подобную запись не получится, — рассказывает эксперт. Образцы голоса потенциальной жертвы для создания дипфейков злоумышленники могут добывать разными путями. Как отмечает Александр Самсонов, мошенникам помогают публичные аудио- и видеозаписи в соцсетях, а также утечки биометрических данных. Кроме того, они могут просто позвонить человеку по телефону и записать его голос на диктофон. Поэтому, чтобы защититься от них, очень важно беречь личную голосовую информацию. Также следует соблюдать конфиденциальность в соцсетях и мессенджерах, чтобы ограничить возможность получения голосовых данных третьими лицами, — говорит специалист. Как поясняет Багдасарян, если злоумышленник получит доступ к профилю в соцсети, он воспользуется не только образцами голоса, но и дополнительной контекстной информацией о человеке, что в дальнейшем позволит ему более убедительно взаимодействовать с жертвой. Поэтому для защиты своих социальных сетей от взлома эксперт советует соблюдать определенные меры безопасности — к примеру, использовать сложные уникальные пароли и регулярно их обновлять.
Греф заявил, что это серьезная угроза, с которой человеку сложно бороться, сообщает RT. Он отметил, что с развитием технологий и искусственного интеллекта популярность таких уловок растет.
Украденные голоса: мошенники осваивают новый способ обмана россиян
Поскольку вы здесь... У нас есть небольшая просьба. Эту историю удалось рассказать благодаря поддержке читателей. Даже самое небольшое ежемесячное пожертвование помогает работать редакции и создавать важные материалы для людей.
Организации, разрабатывающие технологии идентификации, уделяют максимум внимания безопасности данных клиентов, а алгоритмы учитывают целый ряд факторов, включая данные об устройстве и местоположении, чтобы обеспечить доступ к конфиденциальной информации только проверенным пользователям. Но при этом он предостерег россиян от забывания простых правил цифровой гигиены, таких как осторожность при нежелательных звонках, использование официальных телефонных номеров, указанных на банковских картах, для связи с финансовыми учреждениями и избегание передачи личной информации незнакомым людям.
Два сообщения были буквально на две секунды. В них говорилось: «Люблю! Свои деньги я так и не получила назад.
Как мошенники используют голосовые дипфейки и можно ли защититься от такого обмана? Как подделывают голоса? Искусственный интеллект можно заставить говорить чьим-то голосом, - рассказывает Алексей Раевский. Но пока это все работает еще не совсем идеально. Например, человек на нем может выглядеть с шестью пальцами. Пока это все эксперименты, но вполне вероятно, что в будущем они будет развиваться и совершенствоваться. Как все происходит? Искусственный интеллект «обучают» определенному голосу.
Затем вшивается определенный текст, а нейросеть озвучивает его. Таким образом, формируется файл, который зачитывает определенное сообщение. Например, «Маша, отправь мне срочно деньги».
Поэтому в Роскачестве настоятельно рекомендуют не брать трубку, если кто-либо звонит с подозрительного или просто незнакомого номера, проявлять крайнюю осторожность, размещая в мессенджерах или социальных сетях голосовые сообщения и другой контент. Кроме того, необходимо регулярно использовать антивирусное и антишпионское ПО, чтобы своевременно обнаруживать программы, способные украсть персональную информацию.
Полицейские показали, как мошенники подделывают свой голос
злоумышленники подделывают голос с помощью технологии дипфейка и одновременно подменяют номер. Мошенники в России научились подделывать голос по телефону и в социальных сетях. Мошенники используют записи телефонных звонков, в том числе разговоров с роботами, для подделки голоса в мошеннических целях.
Подделали голос внучки. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч
С этой технологией мошенники подделывают голоса и изображения реальных людей, после чего звонят их друзьям, коллегам и подчиненным. С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Мошенники убедили врача оформить три кредита и перевести все свои деньги на неизвестные счета, напугав списанием средств в пользу Украины и ВСУ. Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве.
Прозвони мне, прозвони. IT-эксперты рассказали, как мошенники подделывают голоса россиян
При этом, по его словам, для воссоздания более точного голоса требуется от двух до трех минут записи речи человека. Так нейросеть учится копировать голос. Трухачев добавил, что эти технологии также используют для создания информационных вбросов. Например, копируют речь президента или других известных личностей. В таком случае, по словам эксперта, нужно перезвонить на настоящий номер человека и уточнить, так ли это на самом деле.
Позже пенсионерке позвонил мужчина, представился следователем и заявил, что нужно заплатить крупную сумму, чтобы девушку не привлекли к уголовной ответственности. Потерпевшая сказала свой адрес проживания, и через некоторое время к ней в гости пришел подозреваемый. Пожилая женщина отдала незнакомцу 100 тыс. Как сообщают в пресс-службе ГУ МВД России по Пермскому краю, сотрудники уголовного розыска в течение нескольких дней установили и задержали подозреваемого. Молодой человек рассказал, что нашел подработку в интернете.
Но главное: голос нейросети звучит немного механически и безэмоционально; спросите у звонящего какой-то факт, который должен быть известен только вам и ему. Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества, отметил: «Схемы мошенничества остаются неизменными, однако использование современных технологий во многом развязывает руки злоумышленникам, что позволяет им старые успешные схемы подавать под новым углом. В наше время каждый, у кого есть смартфон и любая сумма денег на счету, становится потенциальной жертвой аферистов. Важно провести беседу с близкими и установить некую кодовую фразу, чтобы быть уверенным, что входящие звонки не являются мошенническими. Основное правило — не паниковать и не торопиться. Не стоит вестись на манипуляции мошенников и отправлять деньги на незнакомый счет. Для начала свяжитесь со своими родственниками или знакомыми, чтобы проверить информацию о предполагаемой тревожной просьбе». Эксперты Центра цифровой экспертизы Роскачества отметили, что в скором времени на смену аудиозвонкам, сгенерированным нейросетью, придут видеозвонки DeepFake. Примеры подобных мошеннических схем уже существуют, но пока они не получили широкого распространения. Все потому, что технология DeepFake еще недостаточно совершенна, и даже простой интернет-пользователь легко отличит поддельное видео от настоящего. К тому же, киберэксперты не исключают, что в будущем записи разговоров с клиентами аферисты будут продавать. Так же, как сейчас они торгуют базами телефонных номеров.
Женщина согласилась, и вскоре ей снова позвонили. На этот раз очередной незнакомец утверждал, что является сотрудником службы безопасности Центробанка РФ. Он убедил Александру рассказать о своих счетах и суммах, которые на них хранятся. Потом женщине объяснили, что деньги необходимо переместить на новый «безопасный счёт». Кроме того, врача убедили взять кредит для погашения якобы оформленных на неё заявок в нескольких банках. Александра послушно следовала советам и 20 июля отправилась в банк. Там она оформила кредит и обналичила деньги. Звонивший просил внести сумму на счёт и перевести через приложение «Мир Пэй». Но телефон женщины не позволял скачать и установить это программное обеспечение.
Роскачество предупредило о новой мошеннической схеме с использованием искусственного интеллекта
Собеседник с подменным видео редко моргает — деталь забавная, но работает безотказно. Некорректное сопоставление голоса и губ. Вызвать подозрение также должно несоответствие между движениями губ и произносимыми словами. Пока все нейросети, которые делают подменные видео и аудио, далеки от совершенства.
Однако мошенники адаптируются и на этот случай. Они записывают видео в низком разрешении или с помехами, чтобы размыть детали, по которым потенциальная жертва может определить подмену. Поэтому важно критически относиться к любому общению в Сети и обращать внимание не только на технические детали, говорит Гараев.
Например, если ваш якобы коллега общается в непривычном тоне или вдруг стал использовать непривычную лексику — это тоже повод насторожиться. Наконец, если в вашем окружении не принято отправлять аудио- и видеосообщения, но вдруг вы получили их сразу несколько и сразу с просьбами о переводе денег, то самое правильно в этом случае — насторожиться. Как защитить от мошенников себя и своих родных Чтобы ваш голос и лицо не стали образцами для обучения нейронных сетей, следуйте нескольким простым правилам: Не рассказывайте много о себе в интернете.
Не публикуйте в социальных сетях много личных фотографий и видеоматериалов. Ограничьте доступ к вашим соцсетям списком друзей и близких.
Благодаря современным технологиям, хакерам достаточно всего 20-секундного фрагмента разговора для создания копии голоса любого человека. Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации.
Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе искусственного интеллекта. Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека.
Могут ли мошенники позвонить в банк и украсть деньги? С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Однако ведущие российские банки не используют систему управления счетом с помощью голоса.
Тогда обман и вскрылся. Ей сообщили, что директор в отпуске, более того, у них не принято так отправлять деньги. На кибермошенников, подделавших голос Колмыкова через нейросети, подали заявление в полицию. Проводится проверка.
Специалистам Центра цифровой экспертизы Роскачества часто поступают вопросы, могут ли мошенники позвонить в банк от имени клиента и списать деньги со счета или взять кредит. Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта ИИ могут имитировать голос позвонившего вам знакомого или родственника.
Для этого мошенникам требуется образец голоса, который без труда можно найти в мессенджере, где практически все пользователи отправляют голосовые сообщения. Подделка голоса осуществляется при помощи различных сервисов и программ, способных создавать голосовые аналоги человека на основе записанных образцов. Качество синтезированного голоса зависит от точности и количества записанных образцов. Благодаря современным технологиям, хакерам достаточно всего 20-секундного фрагмента разговора для создания копии голоса любого человека. Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации. Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе ИИ. Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека.
Могут ли мошенники позвонить в банк и украсть деньги? С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет.
В Роскачестве дали советы, как защитить свои биометрические данные от мошенников
Как сообщили специалисты Центра цифровой экспертизы Роскачества, мошенники научились имитировать голос человека с помощью нейросети. IT-эксперты рассказали, как мошенники подделывают голоса россиян. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса. Подделывать голоса мошенники могли задолго до появления нейросети. Мошенники начали подделывать голоса: выяснили, смогут ли они оформить кредит в банке.