Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта. Мошенники с использованием клонированного голоса заявили Дженнифер ДеСтефано (справа), что похитили ее дочь Брианну (слева). Образцы голоса затем используются для создания фейковых аудиозаписей и выманивания денег.
ЦБ: мошенники стали обманывать россиян, подделывая голоса их родных
О том, что мошенники подделывают голос «умного» помощника «Алиса» для того, чтобы обзванивать россиян и вводить их в заблуждение, сообщили в «Яндексе». Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта (ИИ) могут имитировать голос позвонившего вам знакомого или родственника. Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора.
Мошенники научились подделывать аудио и видео с помощью ИИ - Москва 24
Тем более что мошенники научились даже подделывать голоса, используя специальные программы. Мошенник подделал голос друга и выманил 50 000 ₽. Мошенники научились клонировать голоса детей и играя на родительских чувствах вымогают у них крупные суммы.
Мошенники научились подделывать ваш голос: стоит ли опасаться
При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Технология называется "дипфейк" от англ. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников. Волна дипфейков уже захлестнула Юго-Восточную Азию и Африку. До России она тоже непременно дойдет в ближайшее время и будет работать по схеме звонков от "родственников", например, пожилым людям, предупредил эксперт Роскачества.
Анна Лапа отметила, что схемы с использованием голоса для хищения денег, конечно же, незаконны, но раскрыть такие преступления и найти самих мошенников крайне сложно, поэтому профилактические меры пока остаются лучшей защитой. Юрист подчеркнула, что главное — тщательно проверять контрагентов, которые просят вас записать голос, а также внимательно читать условия договора. Анна Лапа дала читателям «Постньюс» следующие рекомендации: обязательно требуйте договор перед записью голоса, не соглашайтесь на сотрудничество «на честном слове» и не отсылайте свои голосовые безымянным пользователям соцсетей; внимательно прочитайте договор перед тем, как его подписать — может случиться, например, что человек разрешил озвучку порнофильмов своим голосом, но сам об этом не знает, так как не прочитал договор; задавайте вопросы и корректируйте договор.
Если вы, например, не согласны, чтобы ваш голос использовали в соцсетях компании, то так и пишите; проверяйте вашего контрагента. Если вы записываете рекламу для условного Сбербанка, но подписываете договор со странным рекламным агентством, это не значит, что вы работаете на Сбербанк; если смутно понимаете, что договор и его условия сомнительны, лучше обратиться к юристу. Как не стать жертвой мошенников? Татьяна Красногорская по просьбе «Постньюс» подготовила для пользователей рекомендации по информационной гигиене: не озвучивать фильмы, книги и другие произведения без договора также не забудьте проверить по всем открытым базам того, с кем заключаете договор ; не предоставлять никакие персональные данные неустановленным лицам; перепроверять информацию и перезванивать знакомым, которые просят деньги через голосовое сообщение; рассказать об этих рекомендациях своим старшим и, особенно, пожилым родственникам, которые более уязвимы. Сергей Пьянков добавил, что если у вас есть малейшее подозрение, что образец вашего голоса могли украсть мошенники, обязательно предупредите об этом всех родственников, друзей, знакомых и коллег. Делать это нужно через альтернативные каналы связи — если вам кажется, что ваш Telegram был взломан, писать через него предупреждения бессмысленно. Разве россияне все еще переводят деньги мошенникам? Да, и несмотря на все усилия по борьбе с мошенниками, число успешных операций по незаконному получению денег только растет. Так, за прошлый 2023 год преступники смогли провести более миллиона успешных операций и похитили у россиян 15,8 млрд рублей.
При этом Банк России регулярно обновляет рекомендации для коммерческих банков, в соответствии с которыми они блокируют все подозрительные операции. За прошлый год банки смогли отразить 34,8 млн попыток хищения средств у россиян.
При этом восстановить по таким данным фото или голос человека практически невозможно. Помните, что банки заинтересованы в конфиденциальности данных своих клиентов, ведь несанкционированные операции могут нанести удар по их репутации и привести к финансовым потерям.
Мошенники подделывают голоса, притворяясь вашими родственниками или знакомыми Для создания убедительного аудиосообщения преступники используют нейросети, с помощью которых можно воспроизвести интонацию, тембр голоса и особенности речи конкретного человека. Например, позвонивший вам в мессенджер ребенок, родственник или знакомый просит срочно перевести небольшую сумму денег. Причина может быть какая угодно — ребенку срочно нужно сделать подарок другу или учительнице, пожилому родственнику не хватает небольшой суммы на покупку лекарств в аптеке. Звонивший под разными предлогами уговаривает отправить деньги на чужую карту или перевести их по чужому номеру телефона.
Мошенник легко оправдается, почему перевод нужно осуществить другому человеку — можно сказать, что это счет продавца, друга, который находится рядом или что телефон разрядился. Нередко злоумышленники звонят в ночное время, чтобы застать жертву врасплох. Обычно речь идет о небольшой сумме, поэтому вопросов у жертвы не возникает и, как следствие, деньги попадают в руки мошенников.
Ну или еще как вариант — аферисты могут позвонить человеку, включить диктофон и очень долго разговаривать с ним по телефону. А после этого использовать записи в своих целях. Как получают доступ к контактам?
Мошенники взламывают плохо защищенные аккаунты в социальных сетях и мессенджерах. Но, как рассказывает специалист, это довольно сложный путь и требует гораздо больше усилий и времени. И уже с этого аккаунта пишут жертвам своего обмана в мессенджерах или соцсетях. Если вы получили голосовое сообщение от знакомого, который просит выручить его деньгами, лучше всего перезвонить ему по тому номеру, который указан в записной книжке телефона, но не с того же канала связи, где было отправлено сообщение. Удостоверьтесь, действительно ли нужна ему помощь. Еще один вариант — задать какой-то вопрос, ответ на который мошенник точно не знает.
Например, спросите, когда вы виделись в последний раз, или какое прозвище есть у вашего общего знакомого. Например, недавно, моим коллегам от моего лица писали аферисты. Мол, какие-то базы данных утекли в сеть. Якобы вам должны позвонить правоохранители, которым нужно сообщить свои персональные данные, - рассказывает Алексей. Поскольку мы с коллегами общаемся на «ты».
Голос в трубке заставил московского врача перевести мошенникам 3 млн рублей
Тем более что мошенники научились даже подделывать голоса, используя специальные программы. Мошенники начали подделывать голоса с помощью нейросети. Александра показывает переписку – от ее имени мошенники отправили знакомым десятки сообщений. Подделывать голоса мошенники могли задолго до появления нейросети. Для подделки голоса мошенникам будет недостаточно записанных фраз.
Мошенник подделал голос друга и выманил 50 000 ₽
Нормальные, пусть даже и преступники, люди, сообразили бы, что раз я бросил трубку, значит я их раскусил. И второй раз звонить бы уже не стали. Робот, с точной копией голоса моего ребенка. На этот раз раздался третий звонок. На этот раз меня окатила волна спасения, радости и счастья.
Извини, мне просто стали лечить второй зуб, и я телефон отключила. После этого случая «незнакомый телефон» меня больше не беспокоил. А когда я попытался по нему дозвониться, то тот абонент был уже не абонент. Как выяснилось, жертвой такого жесткого приема был не я один.
И я еще легко отделался. Другие жертвы в панике за своих детей все-таки заплатили выкуп. И денег своих больше уже никогда не увидят. Илья Тараканов Так, как же может искусственный интеллект так ловко затуманить мозг родителю, который знает голос и интонацию своего ребенка лучше, чем свои пять пальцев?
И как мог робот догадаться, что ребенка нет дома, и он мог как раз в это время переходить дорогу? Сегодня, когда раскручиваются такие бренды как ChatGPT, способный поддерживать диалог с пользователем и генерировать любой контент подделать голос совсем не сложно.
То есть, чтобы при входе в аккаунт на телефон или электронный адрес приходило подтверждение авторизации. Кроме того, важно устанавливать и пользоваться только теми программами, которые размещены на официальных сайтах производителя. Если же профиль все же взломали, то стоит связаться техподдержкой социальной сети. В случае мошеннических действий нужно обратиться в правоохранительные органы.
Родителям же, чьи дети активно пользуются соцсетями и мессенджерами, рекомендуется владеть актуальной информацией о круге общения ребенка.
Слушай, меня хозяйка квартиры хочет выставить с вещами на улицу за то, что я задержала оплату. Помоги, пожалуйста, одолжи 20 тысяч, чтобы она отстала. Выручи, пожалуйста, по-родственному. Я в больнице, меня госпитализировали срочно и нужно прямо сейчас сделать МРТ. Можешь занять 5 тысяч? Только у меня карта новая, я скину номер. Как выпишут, верну.
Жители Волгограда привыкли слышать подобные вещи по телефону от мошенников, которые пытаются имитировать голос родных и знакомых. Но злоумышленникам больше не нужно напрягать свои связки — они научились действовать убедительнее: подделывать голос и даже изображение любого человека с помощью современных технологий. Теперь им под силу присылать аудиосообщения от имени наших близких с их голосами, а также создавать видеосообщения с их сгенерированными лицами, чтобы заработать на человеческой невнимательности и доверчивости. Разбираемся, как распознать дипфейк и не стать жертвой мошенника в попытке помочь родному человеку. Накатанные схемы уже не в моде, но работают По данным Центрального Банка РФ, в 2023 году злоумышленникам удалось украсть у россиян 15,8 миллиарда рублей. И несмотря на давно известные ухищрения и методы мошенников, самые наивные из граждан продолжают попадаться на крючок. Так, пенсионерка из Тюмени продала квартиру и отдала 12 миллионов рублей телефонным аферистам , убедившим ее перевести свои сбережения из якобы небезопасного банка на новый счет. Позднее, прямо на глаза у журналистов пожилая женщина решила отправить неизвестным еще одну крупную сумму денег.
Мошенники зарабатывают миллиарды на доверчивых людях Источник: Полина Авдошина В свою очередь, волгоградец стал жертвой фейковой экскортницы и перевел злоумышленнику с женским голосом 97 000 рублей. Мошенником оказался житель Пензенской области, продающий несуществующие эротические услуги, имитируя голос проститутки и выбивающий с «клиентов» дополнительные средства. На смену таким незатейливым, но эффективным схемам обмана, приходят современные технологии, с возможностями которых знаком далеко не каждый простой человек. Зато злоумышленники уже успели изучить и опробовать для совершения преступлений такие новейшие разработки, как нейросети. Даже начинающие мошенники могут быть опасны Нейросети могут облегчить работу специалистам практически любой сферы, а значит, и автоматизировать часть действий киберпреступников. Растущий интерес среди злоумышленников к широким возможностям нейросетей выявили и эксперты по информационной безопасности. Аналитик «Лаборатории Касперского» Алиса Кулишенко рассказала, чем чат-боты могут быть полезны для мошенников. А злоумышленники, чтобы избежать их, формируют специальные запросы — джилбрейки.
Сами данные для подделки голоса собираются в процессе обычного телефонного разговора злоумышленника с жертвой, поясняет он. По словам Семенычева, мошеннические схемы, связанные с подделкой изображения или видео, распространены в меньшей степени, так как более сложны и ресурсоемки. Такие активности в основном направлены на нанесение репутационного ущерба, уточняет он. При этом в действующей практике использование дипфейков чаще встречается не для имитации клиента или его знакомого, а для сокрытия внешности преступника, чтобы было невозможно установить его личность и задокументировать следы преступления, поясняет представитель ВТБ. В таких случаях чаще используются «личности» известных актеров или политиков, а также случайных пользователей, не связанных с атакуемым клиентом, уточняет он. Сегодня опасность, связанная с получением образцов голоса и видео, крайне высока и создает реальную угрозу безопасности как для физлиц, так и для юрлиц, отмечает Мельников. Проверить подлинность подделанного голоса или видео можно лишь технически, предупреждает Семенычев.
Мошенники имитируют голос родственников с помощью искусственного интеллекта
Мошенники подделывают голоса и крадут деньги | Мошенники в России научились подделывать голос по телефону и в социальных сетях. |
Мошенники с помощью искусственного интеллекта запугивают родителей голосами родных детей | Также развивается технология deepfake: преступники подделывают голос близких людей жертв. |
Мошенники имитируют голос родственников с помощью искусственного интеллекта
Как распознать дипфейк: Неестественная мимика — движения губ не попадают в такт с произносимыми словами, одно и то же выражение глаз, не видно смены эмоций. Низкое разрешение, пикселизация или нечеткость изображения, особенно в областях с активной мимикой — брови, уголки рта. Звук опережает картинку или не успевает за движениями персонажа. Распознавать подделки помогают и сами нейросети. Технологии создания и обнаружения дипфейков будут усиленно развиваться в будущем. По словам Кузьменко, для обычного пользователя лучший способ защититься от дипфейков — быть бдительным, обращаться к надежным источникам информации и следить за развитием информационных технологий.
Говорить про защиту интеллектуальных прав пока преждевременно. Сейчас в некоторых судах даже иски о защите чести и достоинства остаются диковинкой, не говоря уже о нейродипфейках», — указал защитник. Хорошо забытое старое Преступники уже давно используют синтез голоса для различных злоупотреблений, не афишируя доступность технологии модуляции и её мощности для обывателей, уверен бывший следователь и действующий адвокат Александр Бурчук. Суды и следователи нередко сталкиваются с поддельными аудиозаписями, поэтому назвать технологию чем-то особенным защитник не может. Злоумышленники подделали голос сотрудника ФСБ и вымогали с помощью фейкового аудио деньги. Запись телефонного разговора, оказавшаяся на столе у следователя, и голос жертвы на ней соответствовали нормам фоноскопической экспертизы, утвержденным Минюстом. Защита тогда нашла способ, как доказать невиновность своего доверителя, но подробности мне неизвестны», — уточнил собеседник агентства. При этом защитника беспокоит массовость и доступность программ для синтеза речи. Адвокат предлагает в спорных случаях не бояться обращаться в суд или правоохранительные органы.
Сейчас в праве есть огромное количество неразрешенных вопросов и это нормально.
При наличии подтверждений в комментариях, пост может быть вынесен в общую ленту. В зависимости от степени нарушения может последовать: А. Вынос поста в общую ленту п. Удаление поста п. Занесение пользователя в игнор-лист сообщества п.
Она выглядит так: мошенники звонят в мессенджер с фейкового аккаунта с номером 900 и логотипом банка и спрашивают, обновлял ли пользователь приложение банка. Затем человеку звонит второй злоумышленник, якобы для идентификации личности клиента по биометрии. Он просит включить режим демонстрации экрана и зайти в мобильное приложение банка. Трансляция экрана позволяет мошенникам увидеть номера карт, суммы на счетах, коды в смс от банка и другую информацию. Данный способ мошенничества появился около двух месяцев назад, рассказывает эксперт по информационной безопасности, генеральный директор Phishman Алексей Горелкин. Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Такой способ был, он применялся на школьниках: покажите, а что у вас за карта, а у ваших родителей какие карты, зайдите к себе в телефон, в общем, была такая схема, чтобы люди, которые не шибко разбираются в цифровых технологиях, но при этом имеют доступ к устройству родителей, могли предоставить злоумышленникам необходимую информацию. Я надеюсь, что такая схема все-таки не самая рабочая, потому что людей должны настораживать такие действия, которые ранее от них не просил ни банк, ни кто-либо еще. Благодаря в том числе просветительской деятельности, все меньше и меньше получается успешных атак. Злоумышленники почему и усложняют свои атаки, делают звонки не с одного номера, а с двух, трех, четырех, там ФСБ как будто звонит, кто-то еще как будто звонит. Почему они, к примеру, начали теперь просить деньги не переводить или сообщать код из СМС-сообщения, а просят деньги снимать и передавать их человеку?
ЦБ: мошенники научились имитировать гoлоса родных потенциальной жертвы
Мошенник обманывал людей, подделывая голоса близких по телефону | 360° | Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта. |
Роскачество: мошенники научились подделывать голоса, чтобы красть деньги - | Телефонные мошенники начали осваивать новые технологии, теперь они взяли на вооружение нейросети, которые способны подделывать чужой голос. |
Мошенник подделал голос друга и выманил 50 000 ₽ | Уже известны случаи, когда подделывали голос человека и даже внешность. |
Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв | Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника. Мошенники подделали голос директора компании с помощью искусственного интеллекта и украли 243 тысячи долларов. |
«Совпадение полное»: мошенники подделывают голоса родных и близких
Мошенники могут подделать чужой голос, чтобы украсть деньги | Обычно мошенники надевают на себя маску родственника жертвы и меняют голос, а потом рассказывают душераздирающую историю о том, как они попали в беду и что им срочно нужны деньги. |
Мошенники начали использовать поддельные голоса родственников жертв | Мошенники стали активно использовать технологию синтеза голоса для шантажа жертв и угрожают «сливом» поддельных аудиозаписей в СМИ и правоохранительные. |
Мошенники подделывают голос знакомых вам людей и воруют деньги | «Я сам сталкивался с тем, что мне звонили мошенники и включали синтез голоса моего ребёнка. |
Мошенники начали подделывать голоса: Луки.ру выяснили, смогут ли они оформить кредит в банке | В России активизировались мошенники, подделывающие голоса близких и коллег своих потенциальных жертв. |
Мошенники с помощью искусственного интеллекта запугивают родителей голосами родных детей | Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника. Мошенники подделали голос директора компании с помощью искусственного интеллекта и украли 243 тысячи долларов. |