Как ИИ применяют для защиты от киберугроз
Системы искусственного интеллекта, такие как алгоритмы машинного обучения и нейросети, играют важную роль в кибербезопасности. Они помогают обнаруживать аномалии, анализировать потенциальные угрозы и принимать меры по защите данных и сетей. ИИ применяют для защиты от киберугроз, включая анализ отчетов ИБ, обнаружение уязвимостей, мониторинг трафика, масштабирование инфраструктуры и прогнозирование киберугроз.
Список задач, которые может решать ИИ в кибербезопасности
- Автоматическая обработка и анализ отчетов систем информационной безопасности. ИИ эффективнее человека может заметить повторяемость паттернов и указать на уязвимость в системе.
- Детектирование вторжений в систему извне, как по заранее известному алгоритму (распознавание сигнатур), так и работа с ранее неизвестным типом угрозы (эвристический анализ). В последнем случае алгоритм анализирует не образцы данных (например, вирусного кода), а последовательность наступающих событий, распознавая в них, например, признаки DDoS-атаки.
- Непосредственно связано с предыдущим: непрерывный мониторинг и анализ трафика и паттернов поведения пользователей.
- Борьба с фальшивым срабатыванием угроз. Необходима тонкая работа, чтобы отделить аномальные сигналы от настоящей угрозы, и пока что с этим лучше всего справляются человеческие специалисты. Однако уже в ближайшем будущем, скорее всего, ИИ сможет полноценно взять на себя эту роль.
- Использование адаптивных инструментов для оценки конфигурации при масштабном обновлении инфраструктуры, например, установке новой системы поверх старой локальной среды.
- Классификация и кластеризация данных для соблюдения законодательства, для дальнейшего построения профилей атак и уязвимостей и анализа данных в контексте кибератаки, а также для прогнозирования будущих ситуаций.
Слабый ИИ используется в кибербезопасности уже долгое время, сильный (генеративный) только начинает набирать популярность.
Интересный факт:
В профессиональном сообществе все чаще обсуждается вопрос об использовании предиктивных моделей машинного обучения для моментального обнаружения DDoS-атак. Некоторые эксперты считают, что такой подход позволяет достичь точности детектирования атак, близкой к 99%.
На текущем этапе, однако, рекомендуется не отдавать этот процесс на полное управление ИИ, а внедрять алгоритмы на базе машинного обучения под контролем экспертов-людей.
Как ИИ применяют для кибератак
У хакеров сегодня широкие возможности для применения ИИ. Это не только автоматизация уже существующих схем кибератак, но и возможность совершать принципиально новые их типы, например, генерировать фишинговые письма с помощью языковых моделей или имитировать дипфейками изображение и голос реальных людей.
Перечислим направления, которые уже активно используются злоумышленниками при помощи искусственного интеллекта и явно будут совершенствоваться в ближайшем будущем.
1. Автоматизация процессов взлома
Применение нейросетей делает процесс взлома информационной инфраструктуры более быстрым. Хакерам больше не нужно самим собирать информацию и составлять таблицу паролей. ИИ способен помочь в автоматическом брутфорсе и поиске известных уязвимостей. Более того, он все лучше умеет проходить капчу, которая должна защищать от брутфорса.
Например, ИИ может помочь с минимальными вводными данными собрать информацию про человека по его следам присутствия в сети (включая имя пользователя, дату рождения и другие личные данные) и предложить возможные варианты того, какой он использует пароль или ответ на контрольный вопрос для его восстановления.
2. Упрощение целевого фишинга
Надобность в OSINT-разведке и навыках психолога также теперь практически отпадает. Нейросети могут самостоятельно проанализировать особенности личности или компании, которые являются целью хакера, и составить оптимальное фишинговое послание. Рутинный фишинг, опирающийся на инфоповоды, также становится очень легким: нейросеть может анализировать новостные повестки различных регионов и включать их в состав вредоносной рассылки. То же самое с персонализацией фишингового контента в зависимости от интересов жертв.
3. Легкость в изготовлении дипфейков
Создать аудио- или видео-запись, имитирующую послание реального человека — например, начальника жертвы или его родственника, якобы попавшего в беду — сегодня как никогда просто. Это делается при помощи синтезирования аудио или видео с использованием генеративно-состязательных нейросетей. Такой метод используется для принуждения адресата к совершению каких-то действий, выгодных злоумышленнику: срочный перевод денег, передача логина и пароля, информация из смс-сообщения и не только.
4. Атаки типа «отравление данных»
ИИ можно использовать для нанесения вреда другим ИИ-моделям, которые используются в разных сферах и для разных целей. Атака такого типа препятствует адекватному обучению нейросетей, закрепляя ложные соответствия и саботируя итоговый результат. Уязвимости подобного рода в нейросетях были обнаружены еще несколько лет назад: в 2019-м хакеры в рамках эксперимента убедили автопилот Tesla Model S въехать выехать на встречное движение, внеся минимальные изменения в разметку, которые не видит человек, но видит компьютерное зрение — после чего резко меняет интерпретацию знака в целом.
5. Упрощение разработки вредоносов
Открытые модели нейросетей вроде ChatGPT не позволяют хакерам создавать новые вирусные программы или модифицировать существующие, однако ничто не мешает им обойти это ограничение (например, создавая код по частям). Существуют также различные криминальные аналоги, например, закрытый в августе 2023 года WormGPT, который помогал хакерам генерировать письма, обходящие стандартные спам-фильтры. На черном рынке по-прежнему остается масса программ, которые позволяют человеку сегодня стать киберпреступником вообще без знания кода.
Интересный факт:
В июле 2023 года глава Канадского центра кибербезопасности Сами Хури заявил о всплеске использования языковых моделей «в фишинговых электронных письмах, во вредоносном коде, а также в создании контента с целью дезинформации». Аналогичные отчеты в этом году выпустили Европол и и Британский центр кибербезопасности.
Плюсы и минусы искусственного интеллекта в кибербезопасности
У применения ИИ в кибербезопасности есть как положительные, так и отрицательные стороны. Рассмотрим их в формате сводной таблицы.
Плюсы | Минусы |
Способность к обработке big data Искусственный интеллект эффективно анализирует большие объемы данных и быстро обнаруживает аномальные паттерны в реальном времени. | Зависимость от данных Эффективность работы ИИ напрямую зависит от качества, объема и репрезентативности данных, которые были использованы для его обучения.
|
Автоматизация рутины Когда ИИ берет на себя процессы обнаружения и реагирования на типовые угрозы, это сильно разгружает сотрудников компании-провайдера защиты и высвобождает их ресурсы на решение нестандартных и сложных задач. | Уязвимость к специфическим атакам Слабое место у ИИ-киберзащитника — в самой структуре его работы. Так, злоумышленники могут применить ИИ для атак непосредственно на модели машинного обучения, чтобы сделать защитный ИИ менее эффективным. |
Повышение точности Должным образом обученный ИИ создает модели, которые выявляют угрозы с высокой точностью, минимизируя количество ложных срабатываний. | Сложность внедрения и поддержки Реализация систем ИИ в кибербезопасности требует значительных инвестиций как в оборудование, так и в квалифицированных специалистов, которые бы могли их обучать, поддерживать и оптимизировать. |
Прогнозы и адаптация ИИ может предсказывать потенциальные угрозы, анализируя текущие тенденции и обнаруживая в них определенные паттерны. Такие системы быстро адаптируются к новым типам угроз, что помогает поддерживать актуальность защиты.
| Парадоксальный эффект на усложнение атак Когда типовые кибератаки уже не будут приносить достаточно эффективности, использование ИИ в киберзащите неизбежно приведет к разработке более сложных и изощренных атак, для решения которых понадобится более совершенная защита.
|
Гибкость и расширяемость Технологии ИИ могут легко интегрироваться с другими средствами кибербезопасности и масштабироваться в зависимости от потребностей. | Экономическая недоступность для малых организаций Разработка и внедрение систем ИИ в кибербезопасность это достаточно дорого, что делает такой вариант невыгодным для малых и средних предприятий. |
Прогнозы на будущее
Несомненно, уже в ближайшие годы мы увидим стремительный рост применения ИИ и нейросетей как в киберзащите, так и в кибернападении. Развитие этих технологий пока что не ограничено ничем, кроме вычислительных мощностей и некоторых юридических проблем. Например, необходимость использования больших данных для машинного обучения противоречит растущему тренду на конфиденциальность персональных данных, которая в некоторых частях мира, например, в Европе, закреплена законодательно (GDPR).
Еще одна проблема: непредсказуемость использования языковых моделей в программировании. С одной стороны, применение инструментов типа ChatGPT для создания полноценного кода, выглядит как чудо. С другой стороны, человеческий фактор может как раз повлиять на это негативно и снизить общее качество кода: например, если программист заказал нейросети код, а тот был сгенерирован с уязвимостями, и это не было исправлено, то ChatGPT запомнит именно эту версию, и возможно предложит ее из датасета следующему желающему сгенерировать код. Таким образом, уязвимости будут распространяться.
В любом случае, можно с уверенностью сказать, что без работы специалисты по кибербезопасности не останутся еще долго. ИИ уже сегодня демонстрирует удивительные таланты, но все еще нужно, чтобы им управляла рука человека.
