Эволюция кибермошенничества с использованием искусственного интеллекта

Мы много говорим о помощи искусственного интеллекта и возможностях, которые он открывает, но у нейросетей есть темная сторона. Мошенничество с использованием ИИ развивается все стремительнее. Киберпреступники активнее применяют искусственный интеллект для атак на людей и компании. Это подтверждается данными нового отчета Microsoft Cyber Signals.

За последний год Microsoft удалось предотвратить мошенничество на сумму около 4 миллиардов долларов. Каждые 60 минут компания блокирует примерно 1,6 миллиона попыток регистрации фейковых аккаунтов. Это показывает, насколько серьезной стала проблема кибермошенничества.

Теперь даже те, у кого нет технических знаний, могут легко создавать сложные схемы обмана. Если раньше на это уходили дни и недели, теперь все можно сделать за считанные минуты. Это меняет весь облик цифрового мошенничества и угрожает как частным пользователям, так и бизнесу по всему миру.

Как ИИ меняет кибермошенничество

Злоумышленники используют искусственный интеллект, чтобы находить информацию о компаниях в интернете. Это помогает им готовить более точные и убедительные атаки.

Вот некоторые мошеннические схемы, которые осуществляются с помощью ИИ:

• отправка фальшивых писем от имени реальных сотрудников или компаний;
• создание поддельных интернет-магазинов с выдуманными историями бизнеса и фальшивыми отзывами;
• фальшивая техподдержка, когда всплывающее окно предлагает «помощь» от службы Microsoft или Apple, а на самом деле это ИИ-бот, выманивает личные или банковские данные.

Преступники становятся все изобретательнее, а потери от их действий исчисляются триллионами долларов. Но искусственный интеллект помогает бороться с этим: быстрее находить уязвимости и встраивать защиту прямо в продукты.

ОНЛАЙН-ПРАКТИКУМ

ЗАПУСК DEEPSEEK R1 ЛОКАЛЬНО НА СВОЕМ КОМПЬЮТЕРЕ

ЧТО БУДЕТ НА ОБУЧЕНИИ?

• ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
• Где и как применять? Потестируем модель после установки на разных задачах
• Как дообучить модель под себя?

Участвовать бесплатно

Как мошенники используют ИИ в торговле онлайн и при поиске работы

Создать фейковый интернет-магазин стало проще, чем когда-либо. С помощью искусственного интеллекта мошенники за пару минут делают сайты, которые выглядят как настоящие. Злоумышленники используют сгенерированные описания товаров, фальшивые отзывы и красивые изображения, чтобы обмануть покупателей.

На таких сайтах могут работать чат-боты, которые общаются с клиентами как настоящие сотрудники. Они находят оправдания, почему не вернули деньги, и стараются казаться профессиональными — все это делает обман еще более правдоподобным.

В ловушку попадают не только покупатели. В зоне риска и те, кто ищет работу. Мошенники размещают поддельные вакансии, создают фальшивые профили и даже проводят «собеседования» с помощью ИИ. Они могут попросить выслать резюме, паспортные данные или банковскую информацию якобы для проверки.

С осторожностью отнеситесь к ситуации, если:

• вам приходит неожиданное предложение работы, хотя вы нигде не откликались;
• вас просят что-то оплатить;
• настаивают на передаче каких-либо данных через мессенджеры вроде WhatsApp, а не через официальную почту.

Будьте внимательны и не делитесь личными данными без уверенности, что это безопасно.

Как Microsoft борется с ИИ-мошенничеством

Чтобы защитить пользователей от новых угроз, Microsoft внедряет защиту в свои продукты и сервисы. Например, Microsoft Defender for Cloud помогает защищать облачные ресурсы от атак. А браузер Microsoft Edge использует технологии искусственного интеллекта, чтобы предупреждать пользователей о поддельных сайтах и ошибках в адресах.

Компания также обновила инструмент Windows Quick Assist — теперь он показывает предупреждения, если кто-то пытается получить удаленный доступ под видом технической поддержки. Каждый день Microsoft блокирует более 4 000 таких попыток.

С 2025 года Microsoft запускает новую политику. Теперь при создании продуктов разработчики должны заранее думать о защите от мошенничества. Это часть программы Secure Future Initiative (SFI), которая направлена на защиту продуктов «по умолчанию».

Кроме защиты на уровне технологий, всегда лучше самим не терять бдительности:

• не переходите по подозрительным ссылкам;
• проверяйте сайты перед покупкой;
• не делитесь личной или финансовой информацией, если не уверены в источнике.

Компании в свою очередь могут снизить риски, если внедрят многофакторную аутентификацию и технологии распознавания подделок.