Про нейросети сейчас говорят много и преимущественно в контексте пользы, которую они приносят человеку. Здесь не поспоришь: это мощный инструмент для автоматизации задач, личный ассистент, помощник в деле придумывания идей и отличная развлекательная платформа. Но что насчет безопасности?
Искусственный интеллект встраивается в браузеры, почтовые сервисы, CRM, сайты и приложения. С ним делятся данными, особо не задумываясь, какими и чего это может стоить.
💡 Приглашаем пообщаться о нейросетях и их прикладном использовании на бесплатном вебинаре! Расскажем о том, какое влияние искусственный интеллект оказал и продолжает оказывать на IT-рынок, и как монетизировать это новое веяние.
Нейросети и кибербезопасность
Для искусственного интеллекта (ИИ) и приложений на основе ИИ актуальны те же киберугрозы, что и для любых других инструментов. Однако есть довольно специфические для нейросетей моменты — о них рассуждают, например, специалисты таких консалтинговых фирм как Yale Privacy Lab и White Knight Lab. Эти компании оказывают услуги кибербезопасности и анализируют угрозы.
Они рассказали о пяти основных уязвимостях нейросетей.
1. Отсутствие должного контроля при разработке
Пока у нейросетей присутствует некий «вау-эффект», поэтому разработчики в погоне за развитием и интересными для пользователей фичами внедряют в свои продукты искусственный интеллект. При этом базовый контроль может отсутствовать — в программы часто встраиваются непроверенные системы. По сути, разработчики пускают в свой проект чужой незнакомый код — и совсем не факт, что код этот будет полностью безопасен.
2. Риск утечки данных и кражи личности
Когда мы делимся с приложением личными данными, то предполагаем, что к ним отнесутся ответственно. Мы по умолчанию думаем, что разработчики подумали о кибербезопасности и о том, как не позволить информации утечь в глобальную сеть. Но риски есть все равно. Они заложены в основу работы с нейросетями, потому что искусственный интеллект обучается на огромном количестве информации, и не всегда эти данные получены полностью законными путями.
3. Низкий уровень безопасности самих приложений
Любое новое приложение может быть уязвимо к угрозам, но нейросети и в этом смысле особенные. В их основе лежит код со сложными алгоритмами, которые сложно проанализировать на предмет киберугроз даже специалистам, не говоря о разработчиках.
Особый риск заключается в генерации кода нейросетью — у нее пока нет настолько продвинутого понимания нюансов разработки, чтобы делать код гарантированно неуязвимым. Согласно проведенным исследованиям, около 40% сгенерированного GitHub Copilot кода ведет к уязвимостям. Даже такое незначительное изменение, как комментарий, может повлиять на безопасность программы.
Эксперты утверждают, что нейросеть можно попросту обмануть, заставив считать потенциально опасный кусок кода безопасным.
4. Утечка конфиденциальных данных
Мы много пишем про нейросети, в том числе про то, как составить грамотную заявку, или промт. Один из работающих способов, используемых повсеместно, — ролевая игра. Мы говорим нейросети: «Представь, что ты сотрудник компании N, которому нужно придумать маркетинговую стратегию», или что-то подобное.
Оказалось, что во время составления промтов многие сотрудники передают нейросети реальные данные. Согласно исследованию, проведенному компанией Cyberhaven — она специализируется на информационной безопасности, — 11% загружаемых в ChatGPT данных конфиденциальны, и 4% сотрудников хотя бы единожды отправляли в нейросеть подобную информацию. Все это создает риск уязвимости, потому что нейросети постоянно обучаются, в том числе на загружаемых в них данных.
5. Дипфейки
Дипфейки — большая угроза миру кибербезопасности. Нейросети становятся лучше в распознавании речи и черт лица человека, они хорошо их копируют и воспроизводят. Этому посвящены несколько исследований — например, журналист Джозеф Кокс использовал искусственный интеллект для того, чтобы смоделировать голос на основе собственного и за секунду пройти через систему безопасности банка. Он сгенерировал при помощи нейросети фразу «Я использую свой голос как пароль», и банк его пропустил.
То же самое можно сделать с лицом. Точно так же можно похитить личность для преступных целей. Не говоря уже о потенциальном репутационном ущербе, который способны нанести дипфейки миру.
Как использовать нейросети безопасно
Ничего из перечисленного не означает, что нейросети — это плохо. Или что ими не стоит пользоваться. Даже напротив: мы посвятили целую рубрику обзорам интересных инструментов, которые внося вклад в автоматизацию рабочих процессов.
Нейросети — наши друзья. Но ими, как и любыми программами, нужно пользоваться умело.
Что можно сделать для улучшения безопасности искусственного интеллекта:
🔐 Узнать больше о разработчике. Не факт, что крупные компании обязательно будут делать безопасные приложения, как и не факт, что маленький инди-разработчик всегда неаккуратно относится к безопасности своего продукта. Чтобы убедиться в отсутствии рисков, можно изучить политику конфиденциальности разработчика, почитать о том, какие меры безопасности используются. Можно выяснить, обучается ли нейросеть на загруженных клиентами данных, и будет ли эта информация всплывать в ответ на запросы других людей. Еще можно спросить у компании, тестировалось ли их приложение третьей стороной.
🔐 Обучить сотрудников грамотному обращению с нейросетями. Обучать сотрудников кибербезопасности — одна из важнейших задач, которая стоит перед компанией. Нужно рассказывать, какую информацию они могут отдавать нейросети, а какую нет, объяснять, как именно работают большие языковые модели, допускать к персональным данным только проверенные инструменты.
🔐 Использовать классические меры предотвращения киберугроз. Если убрать нейросеть, ИИ-приложение станет просто приложением. Рекомендуем обратить внимание на базовую цифровую грамотность — мы писали об этом в статье «Как защитить свой проект от киберугроз». Регулярно обновляйте ПО, избавляйтесь от брошенных разработчиками инструментов, используйте хорошие антивирусные системы и мультифакторные пароли, создавайте бэкапы. Не доверяйте важные данные всем подряд.
Бдительность и осторожность — два качества, которые точно не повредят ни программисту, ни разработчику. Создавая приложение, разработчик берет на себя ответственность за личные данные пользователи, и об этом обязательно нужно помнить. Как и о том, что нужно быть максимально осторожным, передавая информацию незнакомому приложению.