Кибербезопасность сегодня — это гонка вооружений, и самое мощное оружие — искусственный интеллект.
Для специалистов по защите ИИ — надежный щит, а для злоумышленников — сильный инструмент атаки. Чтобы уверенно владеть инструментом, важно понимать и саму технологию, и способы ее злоупотребления, которые используют в преступных целях.
Как обеспечивают безопасность в международной биофармацевтической компании?
Рейчел Джеймс — главный инженер по анализу угроз с использованием ИИ и машинного обучения в международной биофармацевтической компании AbbVie. Рейчел рассказала: «Помимо того, что наши текущие инструменты уже имеют встроенные функции ИИ, мы также используем анализ больших языковых моделей (LLM) для обнаружений, наблюдений, корреляций и связанных с ними правил».
Ее команда применяет большие языковые модели, чтобы «просеивать» огромные массивы оповещений о безопасности. Они ищут закономерности, выявляют дубликаты и находят уязвимости до того, как их смогут использовать злоумышленники. Команда Рейчел использует это для определения схожести, дублирования и проведения анализа пробелов».
Следующий шаг — подключение еще большего количества данных о внешних угрозах. Ключевую роль в этой работе играет специализированная платформа для анализа угроз OpenCTI. Она помогает собрать единую картину угроз из огромного потока цифрового шума.
Именно ИИ делает этот подход к кибербезопасности возможным. Он преобразует огромные объемы неструктурированного текста в стандартный формат STIX. Глобальная цель — связать эти данные со всеми направлениями работы по безопасности: от управления уязвимостями до рисков, связанных с третьими сторонами.
- ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ нейросети DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
- Где и как применять? Потестируем модель после установки на разных задачах
- Как дообучить модель под себя?
Уязвимости генеративного ИИ
Но использование такой мощности требует осторожности. Рейчел активно участвует в отраслевой инициативе «OWASP Топ-10 для GenAI». Эта группа помогает понять уязвимости, которые может привнести генеративный ИИ.
Рейчел выделяет три ключевых вызова для руководителей компаний:
- Принятие риска, связанного с творческим, но непредсказуемым характером генеративного ИИ.
- Потеря прозрачности в том, как ИИ приходит к выводам, что становится всё более сложной проблемой по мере развития моделей.
- Опасность неправильной оценки реальной отдачи от инвестиций в ИИ-проекты, где шум вокруг технологии может приводить к переоценке преимуществ и недооценке усилий.
Чтобы укрепить кибербезопасность в эпоху ИИ, нужно понимать противника. Рейчел отслеживает обсуждения и инструменты атак через открытые источники и автоматизированный сбор данных из даркнета. Она публикует свои находки в GitHub-аккаунте cybershujin. В её работе есть и более «практическая» часть.
«Как руководитель по пункту “Внедрение подсказок” для OWASP и соавтор “Руководства по Red Teaming GenAI”, я разрабатываю собственные методы вредоносного ввода и поддерживаю сеть экспертов в этой области», — добавляет Рейчел.
Что это значит для будущего отрасли?
По мнению Рейчел, с точки зрения наборов данных, у защитников есть уникальный шанс использовать всю мощь обмена разведывательными данными и ИИ. Скорее всего, наука о данных и ИИ станут частью работы каждого специалиста по кибербезопасности в будущем.
- Освой нейросеть Perplexity и узнай, как пользоваться функционалом остальных ИИ в одном
- УЧАСТВОВАТЬ ЗА 0 РУБ.
- Расскажем, как получить подписку
- ПОКАЖЕМ, КАК РАЗВЕРНУТЬ МОДЕЛЬ нейросеть DEEPSEEK R1 ПРЯМО НА СВОЁМ КОМПЬЮТЕРЕ
