Мошенники используют голосовые нейросети для обмана жителей России. Об этом Hi-Tech Mail рассказали в компании Neuro.net, создающей человекоподобных виртуальных операторов и голосовых помощников на основе ИИ-технологий.
Эксперты отметили, что ассистенты с помощью разработок на базе RAG (Retrieval-Augmented Generation — генерация ответа с учетом найденной релевантной информации) стали прорывом в обработке естественного языка. Они анализируют многослойные запросы и дают точные ответы в режиме реального времени. Однако этим пользуются не только компании, работающие с клиентами, но и злоумышленники.
Аферисты могут применять аналогичные инструменты, имитируя звонки от сотрудников банков или государственных учреждений. Так называемые ИИ-мошенники в реальном времени структурируют ответы жертвы, чтобы подстраиваться под конкретные ситуации. Технологии позволяют имитировать эмоциональную окраску голоса, чтобы сделать атаки максимально убедительными.
В Neuro.net подчеркнули, что особую опасность представляет возможность массового обзвона, в котором каждый звонок персонализировать с учетом утечек личных данных. При этом для работы с такими инструментами мошенникам не нужно обладать профессиональными навыками.
Специалисты обращают внимание, что скамеры используют урезанные и небезопасные версии ИИ-технологий. Добросовестные разработчики применяют методы многоуровневой защиты, которые в том числе помогают обнаружить подозрительную активность.
В Neuro.net рассказали, что робот компании однажды провел полноценный диалог с мошенником. Голосовой ассистент распознал попытку добиться разглашения персональных данных, после чего начал отмалчиваться и намеренно удерживал афериста на линии. Разработчики отметили, что подобные случаи показывают, что ИИ-системы могут быть не угрозой, а первым барьером на пути к клиенту.
Ранее маркетплейс Wildberries предупредил пользователей о новой схеме мошенников. В ней скамеры используют мессенджеры, через которые рассылают потенциальным жертвам вредоносные файлы. Их маскируют под фотографии, однако при попытке их открыть смартфон будет заражен.
<div class="mediaPollEmbed" data-prerendered><noscript><section><h2>Опасные привычки пользователей</h2><p>7 вопросов</p><form method="POST" action="https://media-poll.mail.ru/api/765ff0e6-9073-5edb-8d95-1e62c18863ae"><fieldset><legend>Бывали ли случаи, когда вы удаляли приложение из-за сомнений в его надежности?&nbsp;</legend><label><input type="radio" name="10858" value="41877"/>Да</label><br/><label><input type="radio" name="10858" value="41878"/>Нет</label><br/></fieldset><button type="submit">Далее</button></form></section></noscript></div><script type="text/javascript">(function(window){var mediaPoll=(window.mediaPoll=window.mediaPoll||{});var container=document.currentScript.previousElementSibling;var uuid="765ff0e6-9073-5edb-8d95-1e62c18863ae";mediaPoll.loadAPIPromise=mediaPoll.loadAPIPromise||new Promise((resolve,reject)=>{const loadScript=(onload,onerror)=>{var head=document.getElementsByTagName('head')[0];var script=document.createElement('script');script.async=true;script.onload=onload;script.onerror=onerror;script.src='https://media-poll.mail.ru/-/1745574233982/embed/main.js';head.appendChild(script)};loadScript(resolve,()=>{mediaPoll.loadAPIPromise=null;reject()})});mediaPoll.loadAPIPromise.then(()=>{window.mediaPoll.render(uuid,container)})})(window)</script>
- Искусственный интеллект
- Нейросети
Источник: hi-tech.mail.ru
