С этой технологией мошенники подделывают голоса и изображения реальных людей, после чего звонят их друзьям, коллегам и подчиненным. Мошенники стали активно использовать технологию синтеза голоса для шантажа жертв и угрожают «сливом» поддельных аудиозаписей в СМИ и правоохранительные. Мошенники вышли на новый уровень: они подделывают не только номера телефонов,но даже голоса звонящих!
Мошенники начали использовать поддельные голоса родственников жертв
Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта. Мошенники всё активнее используют нейросети, чтобы подделывать голоса или лица знакомых доверчивых граждан и своровать их кровные. По словам Шамиля Магомедова, заведующего кафедрой “Интеллектуальные системы информационной безопасности” Института кибербезопасности и цифровых технологий РТУ МИРЭА, телефонные мошенники действительно научились подделывать голоса людей. Как мошенники научились подделывать голос с помощью нейросети?
Мошенники могут подделать чужой голос, чтобы украсть деньги
В Электрогорске задержали мужчину, который при помощи голоса умудрился обогатиться более чем на четверть миллиона рублей. С помощью поддельного голоса подруги мошенники смогли похитить браслет Bulgari стоимостью полмиллиона у простой и безработной студентки из Москвы. Мошенники научились клонировать голоса детей и играя на родительских чувствах вымогают у них крупные суммы. Телефонные мошенники научились подделывать голоса, ЦБ РФ предупредил о новых видах мошенничества с нейросетями в Волгограде. Мошенники не подделывали ее голос, но использовали продуманную со всех сторон схему.
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
В целом, хотя развитие искусственного интеллекта может представлять новые риски для кибербезопасности, простые меры предосторожности и правовая защита могут помочь предотвратить неправомерное использование личной информации.
Он отметил, что с развитием технологий и искусственного интеллекта популярность таких уловок растет. Ранее ЦБ РФ рассказал о новой схеме, которую начали использовать телефонные мошенники.
Но даже если дело доходит до суда, увы, он не всегда встает на сторону жертв мошенничества, ведь фактически все действия люди выполняли сами. В таком случае придется возвращать займ, иначе долг вырастет, банк начислит проценты и пени, а потом вовсе передаст долг коллекторам. Чтобы законно не платить кредит, взятый из-за мошенников, придется пройти процедуру банкротства», — резюмирует Боднар. Как обезопасить себя от мошеннического ИИ Если вам пишет знакомый и даже присылает голосовые сообщения с просьбой одолжить денег, то просто позвоните ему по обычному телефону. Если человек в голосовых сообщениях говорит, что ему «ни в коем случае не надо звонить», точно лучше перепроверить: вашему приятелю не составит труда бросить трубку, если он действительно занят, советует соруководитель практики защиты прав инвесторов компании «Интерцессия» Анастасия Чумак. Можете также связаться с друзьями и родственниками просителя, чтобы тот человек, которого взломали, быстрее это осознал и принял необходимые меры: поменял пароль в аккаунте, удалил или заблокировал через службу поддержки. Самый важный принцип здесь — не торопиться переводить деньги. Мошенники стараются ввести жертву в замешательство — не дать ей время оценить обстановку и свои действия. Поэтому дождитесь от человека ответа через другие каналы связи», — настаивает эксперт. Стоит также критически относиться к сообщению с просьбой о материальной помощи. Хотя нейросети развиваются бешеными темпами, все же они далеки от идеала.
Как отпечатки на песке, человек всюду оставляет свои цифровые следы. Из разных источников можно узнать, с кем вы живете, дружите, общаетесь. И самое страшное: скорее всего, вы уже наследили достаточно. И этот след уже никак не стереть. Интернет помнит все. Но есть способы бороться с мошенниками. Например, задавать побольше уточняющих вопросов своим якобы родственникам.
Украденные голоса: мошенники осваивают новый способ обмана россиян
Разработчики искусственного интеллекта приложили немало усилий, чтобы воспроизводить речь людей. В 2024 году мошенники приняли эту разработку с радостью и начали подделывать разговор, выдавая себя за родственников и друзей телефонных жертв. Сложно повесить трубку, когда в трубке раздается «голос» матери, дочери, подруги, которая якобы попала в беду и просит отправить деньги на проверенный счет. На это всё и рассчитано. Чтобы подделать чей-то голос, мошенникам достаточно использовать недорогой онлайн-инструмент на базе искусственного интеллекта, который анализирует уникальные особенности голоса любого человека и воспроизводит его с учетом пола, возраста и даже акцента. Причем для клонирования голоса программе нужно проанализировать всего лишь 30-секундный отрывок реального голоса, который сейчас без труда можно найти в аккаунте любого пользователя соцсетей. Затем телефонному мошеннику остается раздобыть контакт жертвы и никак не выдать себя во время разговора. А говорить можно все что угодно: онлайн-инструменты позволяют произносить напечатанный текст голосом любого человека. Что делать, чтобы не попасться на уловку Если вам поступил звонок, где знакомый голос просит вас о финансовой помощи, трезво оцените ситуацию. Действительно ли это ваш родственник, друг или коллега? Всё ли нормально в его интонации и манере речи?
Для этого мошенникам требуется образец голоса, который без труда можно найти в мессенджере, где практически все пользователи отправляют голосовые сообщения. Подделка голоса осуществляется при помощи различных сервисов и программ, способных создавать голосовые аналоги человека на основе записанных образцов. Качество синтезированного голоса зависит от точности и количества записанных образцов. Благодаря современным технологиям, хакерам достаточно всего 20-секундного фрагмента разговора для создания копии голоса любого человека. Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации. Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе ИИ. Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека.
Могут ли мошенники позвонить в банк и украсть деньги? С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Однако ведущие российские банки не используют систему управления счетом с помощью голоса. Например, в СберБанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека.
Голоса других людей злоумышленники имитируют при помощи специальных программ — этой уловкой они вынуждают потерпевших сообщать различные сведения или совершать денежные переводы. Подробности о том, как мошенники используют голосовые дипфейки и как защититься от такого обмана, читайте в материале «Известий».
Новый прием мошенников: синтез голоса Как рассказали в Центробанке РФ, мошенники стали имитировать голоса знакомых, родных или коллег россиян при помощи специальных программ. Злоумышленники звонят потенциальным жертвам под видом близких, чтобы выудить необходимые сведения или заставить человека перевести деньги. По данным регулятора, сегодня злоумышленники активно используют комбинированные схемы мошенничества, главным образом телефонного. При этом всё чаще создаются так называемые адресные схемы, составленные по цифровому портрету человека. Как пояснили в Центробанке РФ, мошенники могут собрать его на основании тех данных, которые сам пользователь разместил в Сети, используя информацию о родственниках и друзьях, работе или досуге. Никогда не пересылайте в мессенджерах и социальных сетях сведения из документов, не вводите свои данные на сомнительных сайтах.
Не нужно совершать какие-либо денежные операции по просьбе позвонившего незнакомца», — отметили представители регулятора. В случае любых сомнений в Центробанке РФ рекомендуют связаться с человеком, от имени которого вам позвонили, и уточнить у него всю информацию. Фабрика дипфейков: как подделывают голоса Как рассказал «Известиям» ведущий эксперт отдела разработки и тестирования компании «Код безопасности» Александр Самсонов, подделывать голос можно с помощью большого количества сервисов и программ, которые способны генерировать голос человека по записанному образцу.
При этом аферистам достаточно получить небольшой фрагмент речи человека, чтобы воссоздать не только тембр, но и интонации и манеру разговора. Все это затем используется для самых разнообразных схем обмана. К примеру, мошенники могут связаться с близкими или коллегами человека, чей голос они скопировали, и вполне правдоподобно ввести их в заблуждение просьбой о помощи или призывом перевести средства на какой-либо банковский счет.
Следующий звонок от вашей семьи может оказаться мошенничеством с подменой голоса дипфейком
Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться. Но главное: голос нейросети все равно звучит немного механически. Понять это можно, только если вслушаться. Вот только мошенники часто берут жертв на испуг — имитируют ситуации, когда деньги нужны срочно. Запись голоса они могут получить даже у самого осторожного человека, просто позвонив по телефону с каким-нибудь опросом. Вполне возможно, совсем скоро голос робота в трубке, предупреждающий, что ваш разговор может быть записан, заставит быстро закончить беседу. Все зависит от уровня защищенности инфраструктуры конкретной компании.
Которая занимается записью переговоров", — подчеркнул директор по информационной безопасности компании по защите веб-приложений Лев Палей. Специалисты не исключают: в будущем записи разговоров с клиентами аферисты будут продавать. Так же, как сейчас они торгуют базами телефонов.
Для урегулирования ситуации она просила передать курьеру 200 тыс. Сообщника мошенников задержали с поличным возле квартиры пенсионерки, при передаче денег. Курьер оказался 23-летним уроженцем одной из стран ближнего зарубежья. В конце декабря полицейские Северной столицы обезвредили организованную группу телефонных мошенников. По версии следствия, злоумышленники приобрели для совершения преступлений спецоборудование — телефонные шлюзы и другие устройства.
Новый прием мошенников: синтез голоса Как рассказали в Центробанке РФ, мошенники стали имитировать голоса знакомых, родных или коллег россиян при помощи специальных программ. Злоумышленники звонят потенциальным жертвам под видом близких, чтобы выудить необходимые сведения или заставить человека перевести деньги. По данным регулятора, сегодня злоумышленники активно используют комбинированные схемы мошенничества, главным образом телефонного. При этом всё чаще создаются так называемые адресные схемы, составленные по цифровому портрету человека. Как пояснили в Центробанке РФ, мошенники могут собрать его на основании тех данных, которые сам пользователь разместил в Сети, используя информацию о родственниках и друзьях, работе или досуге. Никогда не пересылайте в мессенджерах и социальных сетях сведения из документов, не вводите свои данные на сомнительных сайтах. Не нужно совершать какие-либо денежные операции по просьбе позвонившего незнакомца», — отметили представители регулятора. В случае любых сомнений в Центробанке РФ рекомендуют связаться с человеком, от имени которого вам позвонили, и уточнить у него всю информацию. Фабрика дипфейков: как подделывают голоса Как рассказал «Известиям» ведущий эксперт отдела разработки и тестирования компании «Код безопасности» Александр Самсонов, подделывать голос можно с помощью большого количества сервисов и программ, которые способны генерировать голос человека по записанному образцу. При этом «похожесть» синтезированного голоса зависит от качества и объема записанных образцов. Консультант по информационной безопасности компании R-Vision Карэн Багдасарян дополняет, что в генерации голосовых дипфейков большую роль играет искусственный интеллект ИИ.
Один из новых способов кражи денег: звонки под видом работника службы безопасности банка. Жертву предупреждают, что скоро ей позвонят из полиции, — и обманутый человек диктует данные банковской карты. Также развивается технология deepfake: преступники подделывают голос близких людей жертв.
Мошенники подделывают голоса и крадут деньги
При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Технология называется "дипфейк" от англ. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников. Волна дипфейков уже захлестнула Юго-Восточную Азию и Африку. До России она тоже непременно дойдет в ближайшее время и будет работать по схеме звонков от "родственников", например, пожилым людям, предупредил эксперт Роскачества.
Это может быть использовано для того, чтобы поместить лицо на тело другого человека, заставить его голос читать определенный текст или же совершать вредоносные действия. Несмотря на то, что технология кажется сложной, на самом деле сделать дипфейк самостоятельно на удивление просто. Для этого достаточно иметь в открытом доступе видеозапись или запись голоса и недорогое программное обеспечение.
Это занимает секунды, а не минуты или часы, и любой, у кого есть немного времени и доступ к YouTube, может понять, как это сделать", - объясняет Бакли. Появились удивительные технологии, которые еще недавно были бы научной фантастикой. Это прекрасно для инноваций, но есть и обратная сторона, когда эта технология попадает не в те руки". Мир мошенничества с дипфейками С момента своего появления deepfake использовались во вредоносных целях, начиная от подделки политических речей и заканчивая изготовлением порнографических материалов. Однако в последнее время их использование находит все большее применение в мире мошенничества. В последнее время участились случаи мошенничества с использованием искусственного интеллекта, когда человеку звонит или даже звонит по видеосвязи его близкий человек, говоря, что он попал в беду и ему нужны деньги", - рассказывает Бакли. Сведения о человеке берутся из данных, доступных в Интернете. Вместо этого мошенники полагаются на страх и безвыходную ситуацию, когда вы впадаете в панику и не замечаете несоответствий Хотя эти мошеннические действия могут иметь различные формы, обычным форматом является звонок со случайного номера. Собеседник с помощью deepfake выдает себя за члена семьи или человека, который обычно рассчитывает на деньги.
Подобные файлы злоумышленники создают и с известными личностями, где те рекламируют сомнительные сайты и услуги. Как отмечают юристы, бороться с распространением дипфейков непросто. Наши корреспонденты освещают все важные события города.
Чтобы создать такое сообщение, мошенникам необходимо иметь много исходных записей нужного голоса Фото: Мария ЛЕНЦ Помните, еще несколько лет назад вам на телефон могли позвонить мошенники, и, представившись именем родственника, взволнованно кричали, что попали в непростую ситуацию, например, в ДТП и теперь им срочно нужны деньги? И если по началу такие схемы срабатывали, то спустя время перестали. Сейчас же аферистам даже не нужно играть роль, попавшего в беду родственника или знакомого! Чтобы выманить сбережения с потенциальных жертв, они используют нейросеть, с помощью которой имитируют голоса их реальных близких или приятелей. А их последнее время не мало. Один из последних случаев произошел с 23-летней иркутянкой, блогером Анастасией Богдановой.
В середине февраля девушка получила несколько голосовых сообщений в мессенджере от подруги, в которых просила одолжить 40 тысяч рублей. Поэтому я уточнила сумму и счет, на который нужно отправить деньги. Подруга отправила якобы карту своей мамы. И в это время стали приходить голосовые. Два сообщения были буквально на две секунды. В них говорилось: «Люблю! Свои деньги я так и не получила назад. Как мошенники используют голосовые дипфейки и можно ли защититься от такого обмана?
Мошенники научились подделывать ваш голос: стоит ли опасаться
Как мошенникам удается подделать голос. Телефонные мошенники в России все чаще подделывают голоса родственников и знакомых своих жертв. Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта могут имитировать голос позвонившего вам знакомого или родственника. Новости Технологии 29 июля 2022. Телефонные мошенники начали подделывать голос «Алисы». В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч.