В настоящее время большинство атак, направленных на системы искусственного интеллекта (ИИ), сосредоточены на манипулировании ими. Так, например, системы рекомендаций стараются отдавать предпочтение конкретному контенту, а не тому, что на законных основаниях ему соответствует. Киберпреступники теперь используют в своих интересах эти типы атак с использованием машинного обучения (ML) и описаны в матрице угроз.
По Microsoft, атаки на системы машинного обучения (ML) Он постепенно увеличивается . Кроме того, MITER отмечает, что за последние три года такие крупные компании, как Microsoft, Google, Amazon и Tesla, стали свидетелями взлома своих систем машинного обучения. В этом смысле у большинства организаций нет подходящих решений для защиты своих систем машинного обучения, и им нужны инструкции, как это сделать.
Так, специалисты Microsoft, MITRE, IBM, NVIDIA, Университет Торонто, Институт машинного обучения Берривилля вместе с другими компаниями и организациями создали первую версию Матрица угроз состязательного машинного обучения . Его цель - создать матрицу угроз, которая поможет аналитикам безопасности обнаруживать эти типы атак и реагировать на них.
Искусственный интеллект как метод проведения атак
Искусственный интеллект - это ресурс, который все чаще используется для заражения компьютеров, кражи информации и нарушения безопасности. Один из методов, в котором мы можем использовать искусственный интеллект и машинное обучение, - это отравление данных.
Эта атака предназначена для манипулирования набором обучающих данных для управления предсказуемым поведением. Цель состоит в том, чтобы он вышел из строя и подчинялся предположениям злоумышленника. Таким образом, вы можете классифицировать спам-сообщения как соответствующий контент, и они попадут в наш почтовый ящик. Вот пример того, как искусственный интеллект используется в кибератаках .
Машинное обучение и безопасность
Машинное обучение, происходящее от ML (Machine Learning), представляет собой ветвь искусственного интеллекта, цель которой - разработать методы, позволяющие компьютерам учиться автономно. Исследователи машинного обучения ищут алгоритмы для преобразования выборок данных в компьютерные программы без необходимости их написания. Таким образом, результирующие программы должны уметь обобщать поведение, делать прогнозы, принимать решения или классифицировать вещи с точностью.
Микель Родригес, исследователь машинного обучения из MITER, заметил, что сейчас мы находимся на той же стадии с ИИ, что и с Интернетом в конце 1980-х. В то время Интернет был предназначен для работы, а не для самостоятельного создания. безопасность для предотвращения возможных атак.
Однако вы можете извлечь уроки из этой ошибки, и именно поэтому была создана Матрица угроз состязательного машинного обучения. Предполагается, что эта матрица поможет мыслить целостно и будет стимулировать лучшее общение. Таким образом, он предназначен для содействия сотрудничеству между организациями, предоставляя общий язык для различных уязвимостей.
Что дает нам матрица угроз машинного обучения противника
Благодаря этой матрице угроз администраторы безопасности могут работать с моделями, основанными на реальных инцидентах, которые имитируют поведение злоумышленника с помощью машинного обучения. Для создания матрицы они использовали ATT & CK в качестве шаблона, поскольку аналитики безопасности знакомы с использованием этого типа матрицы.
В матрице угроз у нас есть различные фазы атаки, такие как: распознавание, начальный доступ, выполнение, настойчивость, уклонение, эксфильтрация и воздействие. Таким образом, на втором этапе начального доступа мы находим фишинг нападение, о котором так много говорят. Если вы хотите получить дополнительную информацию об описании фаз состязательной матрицы ML, перейдите по этой ссылке.
Следует иметь в виду, что матрица угроз не является структурой определения приоритетов рисков и объединяет только известные методы. Кроме того, было показано, что атаки могут быть назначены матрице. Наконец, матрица угроз будет периодически обновляться по мере получения отзывов от сообщества машинного обучения безопасности и противников. Они также хотят побудить соавторов указывать на новые методы, предлагать передовые методы и делиться примерами успешных атак.
