Битва за кибербезопасность с ИИ: сможет ли Google Cloud защитить нас от завтрашних угроз?

Марк Джонстон, директор по безопасности Google Cloud в Азиатско-Тихоокеанском регионе заявил, что даже после пятидесяти лет развития кибербезопасности мы все еще проигрываем в этой «войне». «В 69% случаев в Японии и Азиатско-Тихоокеанском регионе компании узнавали о взломах от посторонних», — делится Джонстон. Большинство компаний даже не замечают, что их взломали. Ирония в том, что те же инструменты ИИ дают хакерам небывалые возможности.

50 лет провалов в защите: почему это длится так долго?

Эта проблема не нова. Джонстон напоминает о словах Джеймса П. Андерсона, пионера кибербезопасности, сказанных еще в 1972 году: «Системы, которые мы используем, на самом деле не защищают себя». И эта проблема остается актуальной до сих пор, несмотря на все технологические прорывы.

Все усложняется тем, что элементарные уязвимости никуда не делись. По данным Google Cloud, «более 76% взломов начинаются с азов» — ошибок в настройках и скомпрометированных учетных данных, которые преследуют компании десятилетиями. Джонстон привел свежий пример: «Очень распространенный продукт, который в какой-то момент использовали большинство компаний, Microsoft SharePoint, также имел то, что мы называем уязвимостью «нулевого дня»… и в это время он постоянно атаковался и использовался».

Гонка вооружений ИИ: защитники против хакеров

Кевин Карран, старший член IEEE и профессор кибербезопасности в Ольстерском университете, называет текущую ситуацию «гонкой вооружений с высокими ставками». В ней и команды кибербезопасности, и злоумышленники используют ИИ, чтобы обхитрить друг друга. «Для защитников ИИ — ценный актив, — объясняет Карран. — Компании внедряют генеративный ИИ и другие инструменты автоматизации для анализа огромных объемов данных в реальном времени и выявления аномалий».

Но те же технологии помогают и хакерам. «Для злоумышленников ИИ может упростить фишинговые атаки, автоматизировать создание вредоносного ПО и помочь сканировать сети на наличие уязвимостей», — предупреждает Карран. Двойное назначение ИИ создает то, что Джонстон называет «Дилеммой защитника».

Инициативы Google Cloud в области ИИ призваны переломить ситуацию в пользу защитников. Джонстон утверждает, что «ИИ предоставляет лучшую возможность перевернуть «Дилемму защитника» и склонить чашу весов киберпространства, чтобы дать защитникам решающее преимущество над злоумышленниками». Подход компании сосредоточен на «бесчисленных вариантах использования генеративного ИИ в защите», охватывающих обнаружение уязвимостей, аналитику угроз, создание безопасного кода и реагирование на инциденты.

Project Zero «Большой сон»: ИИ находит то, что пропускают люди

Один из самых ярких примеров ИИ-защиты от Google — инициатива Project Zero под названием «Большой сон». Она использует большие языковые модели для выявления уязвимостей в реальном коде. Джонстон поделился впечатляющими цифрами: «”Большой сон” нашел уязвимость в библиотеке с открытым исходным кодом с помощью инструментов генеративного ИИ — мы считаем, что это первый случай, когда уязвимость была найдена ИИ-сервисом».

Развитие программы демонстрирует растущие возможности ИИ. «В прошлом месяце мы объявили, что нашли более 20 уязвимостей в различных пакетах, — отметил Джонстон. — Но сегодня, когда я посмотрел на панель мониторинга «Большого сна», я обнаружил 47 уязвимостей, найденных этим решением в августе».

Переход от ручного анализа человеком к обнаружению с помощью ИИ представляет собой, по словам Джонстона, сдвиг «от ручных к полуавтономным» операциям безопасности, где «Gemini отлично справляется с большинством задач в жизненном цикле безопасности, делегируя задачи, которые он не может автоматизировать с достаточно высокой уверенностью или точностью».

Парадокс автоматизации: обещания и опасности

«Дорожная карта» Google Cloud предусматривает четыре этапа: ручные, вспомогательные, полуавтономные и автономные операции безопасности. На полуавтономном этапе системы ИИ будут выполнять рутинные задачи, передавая сложные решения операторам-людям. Конечная автономная фаза предполагает, что ИИ будет «управлять жизненным циклом безопасности, чтобы обеспечить положительные результаты для пользователей».

Однако такая автоматизация создает новые уязвимости. Когда Джонстона спросили о рисках чрезмерной зависимости от систем ИИ, он признал проблему: «Есть вероятность, что этот сервис может быть атакован и манипулирован. В данный момент, когда вы видите инструменты, в которые эти агенты подключены, нет действительно хорошей системы для авторизации того, что это настоящий инструмент, который не был изменен».

Карран разделяет эту обеспокоенность: «Риск для компаний заключается в том, что их команды безопасности станут чрезмерно полагаться на ИИ, потенциально оттесняя человеческое суждение и оставляя системы уязвимыми для атак. Все еще существует потребность в человеке-«втором пилоте», и роли должны быть четко определены».

Реализация: контроль над непредсказуемой природой ИИ

Подход Google Cloud включает практические меры безопасности для решения одной из самых проблемных характеристик ИИ: его склонности генерировать нерелевантные или неуместные ответы. Джонстон проиллюстрировал эту проблему на конкретном примере контекстных несоответствий, которые могут создавать деловые риски.

«Если у вас розничный магазин, вы не должны давать медицинские советы», — объяснил Джонстон, описывая, как системы ИИ могут неожиданно переключаться на несвязанные области. «Иногда инструменты могут это делать». Непредсказуемость представляет собой значительную ответственность для компаний, внедряющих ИИ-системы, ориентированные на клиентов, где несвоевременные ответы могут запутать клиентов, повредить репутации бренда или даже создать юридические риски.

Технология Google Model Armor решает эту проблему, функционируя как интеллектуальный слой фильтрации. «Наличие фильтров и использование наших возможностей для проверки этих ответов дает организации уверенность», — отметил Джонстон. Система проверяет выводы ИИ на наличие персональных данных, фильтрует контент, несоответствующий деловому контексту, и блокирует ответы, которые могут быть «неподходящими» для предполагаемого использования организации.

Компания также решает растущую проблему скрытого внедрения ИИ. Организации обнаруживают сотни несанкционированных инструментов ИИ в своих сетях, создавая огромные пробелы в безопасности. Технологии Google для защиты конфиденциальных данных пытаются решить эту проблему, сканируя несколько облачных провайдеров и локальные системы.

Проблема масштаба: бюджетные ограничения против растущих угроз

Джонстон назвал бюджетные ограничения основной проблемой, с которой сталкиваются директора по информационной безопасности в Азиатско-Тихоокеанском регионе, что происходит именно тогда, когда организации сталкиваются с растущими киберугрозами. Парадокс очевиден: по мере увеличения объема атак у организаций не хватает ресурсов для адекватного реагирования.

«Мы смотрим на статистику и объективно говорим: мы видим больше шума — возможно, не очень сложного, но больше шума — это больше накладных расходов, и это обходится дороже», — заметил Джонстон. Увеличение частоты атак, даже когда отдельные атаки не обязательно более совершенны, создает истощение ресурсов, которое многие организации не могут выдержать.

Финансовое давление усиливает и без того сложный ландшафт безопасности. «Они ищут партнеров, которые могут помочь ускорить это без необходимости нанимать еще 10 сотрудников или получать более крупные бюджеты», — объяснил Джонстон, описывая, как руководители служб безопасности сталкиваются с растущим давлением, чтобы делать больше с существующими ресурсами, в то время как угрозы множатся.

Остаются критические вопросы

Несмотря на многообещающие возможности Google Cloud AI, остается несколько важных вопросов. Когда Джонстона спросили, действительно ли защитники выигрывают эту гонку вооружений, он признал: «На сегодняшний день мы не видели новых атак с использованием ИИ», но отметил, что злоумышленники используют ИИ для масштабирования существующих методов атак и создания «широкого спектра возможностей в некоторых аспектах атаки».

Заявления об эффективности также требуют проверки. Хотя Джонстон сослался на 50%-ное улучшение скорости написания отчетов об инцидентах, он признал, что точность остается проблемой: «Неточности, конечно, есть. Но люди тоже совершают ошибки». Это признание подчеркивает сохраняющиеся ограничения текущих реализаций безопасности ИИ.

Заглядывая вперед: подготовка к постквантовому миру

Помимо текущих реализаций ИИ, Google Cloud уже готовится к следующему изменению парадигмы. Джонстон сообщил, что компания «уже развернула постквантовую криптографию между нашими центрами обработки данных по умолчанию в масштабе», готовясь к будущим угрозам квантовых вычислений, которые могут сделать нынешнее шифрование устаревшим.

Вердикт: нужен осторожный оптимизм

Интеграция ИИ в кибербезопасность представляет собой как беспрецедентные возможности, так и значительные риски. Хотя технологии ИИ от Google Cloud демонстрируют реальные возможности в обнаружении уязвимостей, анализе угроз и автоматическом реагировании, те же технологии дают злоумышленникам расширенные возможности для разведки, социальной инженерии и уклонения.

Оценка Каррана дает сбалансированную перспективу: «Учитывая, как быстро развиваются технологии, организациям придется принять более комплексную и проактивную политику кибербезопасности, если они хотят опережать злоумышленников. В конце концов, кибератаки — это вопрос «когда», а не «если», и ИИ только увеличит количество возможностей, доступных злоумышленникам».

Успех кибербезопасности, основанной на ИИ, в конечном итоге зависит не от самой технологии, а от того, насколько продуманно организации внедряют эти инструменты, сохраняя при этом человеческий контроль и соблюдая основные правила безопасности. Как заключил Джонстон: «Мы должны внедрять их с низким уровнем риска», подчеркивая необходимость взвешенного внедрения, а не полной автоматизации.

Революция ИИ в кибербезопасности уже идет, но победа будет за теми, кто сможет сбалансировать инновации с разумным управлением рисками — а не за теми, кто просто внедрит самые передовые алгоритмы.