Нейросети все активнее внедряются как в экономику, так и в различные аспекты жизни людей. Искусственный интеллект стремительно развивается, и, к сожалению, мошенники находят способы использовать эти технологии для обмана граждан, вымогая деньги и личные данные. О том, какие схемы они применяют и как избежать ловушек, рассказывает Юлия Орлова — эксперт в области искусственного интеллекта, основатель экосистемы продуктов с ИИ T-BOX и создатель онлайн-академии «Войти в ИИ».
Подделка голоса
Наиболее распространенным методом обмана является имитация голоса жертвы с помощью ИИ. Злоумышленники используют реальные образцы звучания, которые можно найти в социальных сетях, видеороликах или получить, предложив человеку отправить аудиозапись для участия в каком-либо конкурсе – например, на телевидении. Современные технологии позволяют обрабатывать звуковые фрагменты из разных источников и воспроизводить идентичный голос.
Полученные аудиозаписи мошенники используют для звонков родственникам, друзьям или коллегам жертвы, представляясь ими и прося перевести деньги, чтобы помочь с долгами или компенсациями за ущерб в результате ДТП и прочими нуждами. Существуют различные вариации таких мошеннических схем. Чаще всего жертвами становятся пожилые граждане, не очень знакомые с современными технологиями, однако и молодежь не застрахована от подобных уловок.
Мошенники не ограничиваются просьбами о переводе средств. В некоторых случаях они могут звонить, представляясь представителями различных организаций, и настойчиво предлагать пожертвовать деньги в благотворительные фонды или установить на телефон определенные приложения. Эти приложения часто используются для кражи персональных данных и несанкционированного вывода средств с банковских счетов жертв.
Существует множество сервисов, способных имитировать голоса. Сгенерированные сообщения звучат так правдоподобно, что даже близкие люди могут не распознать, кто их действительно звонит — родня или робот. С течением времени такие нейросети будут становиться все более совершенными и доступными, что, увы, может привести к росту числа случаев мошенничества.
Генерирование изображения
Если подделка голоса может быть легко проверена, перезвонив родственнику, то звонок с визуальным сопровождением подтверждает правдоподобность на 100%. В то же время даже изображение человека можно легко создать и использовать для ведения беседы в режиме реального времени.
Сегодня в Южной Корее образы, созданные с помощью ИИ, уже заменили настоящих ведущих на государственных телеканалах. Это экономически эффективно: такие «работники» обходятся всего в 460 долларов в месяц.
Еще одна сенсация связана с проектом братьев Андреасян — в фильме «Манюня: Приключения в Москве» будет сгенерирован образ Юрия Никулина как одного из персонажей.
Мошенникам не составляет труда создать синтетическое изображение вашего родного человека. Одна из нейросетей уже сейчас позволяет не только изменять свой голос в реальном времени, но и подключаться к онлайн-сервисам, таким как Skype или Google Meet, что значительно усложняет идентификацию обманщиков.
Знаменитый случай с управляющим одним из банков в Гонконге служит ярким примером того, на что способны нейросети в руках мошенников. Ему позвонил один из клиентов через видеозвонок и заявил, что его фирма собирается провести сделку на сумму 35 миллионов долларов. В подтверждение этому были высланы документы по электронной почте с печатями и подписями.
Позже оказалось, что и видеозвонок, и заявленные документы были фальшивыми и не имели никакого отношения к реальному клиенту.
Подделывание документов, текстовых сообщений
Современные нейросети способны не только создавать подделки официальных документов, но и генерировать личные письма и сообщения, подражая стилю изложения конкретного человека с учетом информации, добытой из социальных сетей.
Созданные таким образом тексты и документы используются для финансового мошенничества и шантажа. В состоянии стресса люди не всегда могут отличить подделку от оригинала.
Как защититься от мошенников?
Сложно это сделать, находясь в тревожном состоянии. Однако если проявить бдительность и включить логику, то можно легко выявить мошенника:
- Если вам звонят от имени близкого человека, немедленно прекращайте разговор. Свяжитесь с вашим родственником или другом по известному вам номеру и уточните, что произошло.
- Обратите внимание на речь звонящего. Роботы иногда выдают себя фоновыми шумами, помехами или неестественностью слов и акцентов, которые не соответствуют манере общения вашего родного человека.
- Чтобы убедиться, кто на линии, придумайте кодовое слово или спросите о фактах из личной жизни. Если вы получили молчание или собеседник пытается сменить тему, остановите разговор.
- Во время видеозвонка внимательно следите за жестами, мимикой и взглядами собеседника. Нейросети часто выдают себя неестественными выражениями лиц и несоответствием движений губ и звуков.
- Если вы получаете сообщения с просьбой о финансовой помощи, не спешите переводить деньги. Обязательно позвоните человеку и уточните, что случилось.
Мошеннические схемы постоянно совершенствуются. Когда вас просят о денежных переводах или предоставлении личной информации, это должно насторожить и заставить перепроверить, действительно ли за этим стоят ваши близкие, друзья или коллеги. Помните: жертвой обмана можете стать и вы, так что будьте внимательны, осознанны и сохраняйте спокойствие.
