현재 인공 지능 (AI) 시스템에 대한 대부분의 공격은이를 조작하는 데 중점을 둡니다. 따라서 예를 들어 추천 시스템은 합법적으로 해당하는 콘텐츠 대신 특정 콘텐츠를 선호합니다. 사이버 범죄자들은 이제 머신 러닝 (ML)을 사용하여 이러한 유형의 공격을 활용하고 있으며 위협 매트릭스에 설명되어 있습니다.
에 따르면 Microsoft, 머신 러닝 (ML) 시스템에 대한 공격 are 조금씩 증가 . 또한 MITER는 지난 XNUMX 년 동안 Microsoft, Google, Amazon 및 Tesla와 같은 주요 기업이 ML 시스템이 손상되는 것을 목격했다고 말했습니다. 이러한 의미에서 대부분의 조직은 기계 학습 시스템을 보호 할 올바른 솔루션이 없으며이를 수행하는 방법에 대한 지침을 찾고 있습니다.
따라서 Microsoft, MITER, IBM의 전문가는 NVIDIA, 토론토 대학교, Berryville 기계 학습 연구소는 다른 회사 및 조직과 함께 첫 번째 버전을 만들었습니다. 적대적 ML 위협 매트릭스 . 그 목적은 보안 분석가가 이러한 유형의 공격을 탐지하고 대응하는 데 도움이되는 위협 매트릭스를 만드는 것입니다.
공격을 수행하는 방법으로서의 인공 지능
인공 지능은 컴퓨터 감염, 정보 도용 및 보안 손상에 점점 더 많이 사용되는 리소스입니다. 인공 지능과 기계 학습을 사용할 수있는 기술 중 하나는 데이터 중독입니다.
이 공격은 예측 동작을 제어하기 위해 훈련 데이터 세트를 조작하기위한 것입니다. 목표는 오작동하고 공격자의 전제를 준수하는 것입니다. 이렇게하면 스팸 이메일을 적절한 콘텐츠로 분류하여받은 편지함에 도달 할 수 있습니다. 다음은 방법의 예입니다. 인공 지능 사용 사이버 공격에서 .
기계 학습 및 보안
ML (Machine Learning)에서 비롯된 기계 학습은 컴퓨터가 자율적으로 학습 할 수있는 기술을 개발하는 것을 목표로하는 인공 지능의 한 분야입니다. 머신 러닝 연구자들은 데이터 샘플을 작성하지 않고도 컴퓨터 프로그램으로 변환하는 알고리즘을 찾고 있습니다. 따라서 결과 프로그램은 행동을 일반화하고, 예측하고, 결정을 내리거나, 사물을 정확하게 분류 할 수 있어야합니다.
MITER의 기계 학습 연구원 인 Mikel Rodríguez는 1980 년대 후반 인터넷을 사용했을 때와 마찬가지로 이제 AI와 같은 단계에 있다고 말했습니다. 당시 인터넷은 작동하도록 설계되었으며 자체적으로 구축되지 않았습니다. 가능한 공격을 완화하기위한 보안.
그러나 그 실수로부터 배울 수 있으며, 이것이 Adversarial ML 위협 매트릭스가 생성 된 이유입니다. 달성하고자하는 것은이 매트릭스가 전체적으로 생각하는 데 도움이되고 더 나은 의사 소통을 촉진한다는 것입니다. 따라서 서로 다른 취약성의 공통 언어를 제공하여 조직 간의 협업을 촉진하기위한 것입니다.
공격적인 ML 위협 매트릭스가 제공하는 것
이 위협 매트릭스 덕분에 보안 관리자는 실제 사고를 기반으로 한 모델로 작업 할 수 있으며 머신 러닝을 사용하여 공격자의 행동을 모방 할 수 있습니다. 매트릭스를 생성하기 위해 보안 분석가가 이러한 유형의 매트릭스 사용에 익숙하기 때문에 ATT & CK를 템플릿으로 사용했습니다.
위협 매트릭스에는 인식, 초기 액세스, 실행, 지속성, 회피, 유출 및 영향과 같은 다양한 공격 단계가 있습니다. 이러한 방식으로 초기 액세스의 두 번째 단계에서 피싱 너무 많이 언급되는 공격. Adversarial ML Matrix 단계의 설명에 대한 자세한 정보를 참조하려면 여기이 링크가 있습니다.
명심해야 할 중요한 사실은 위협 매트릭스가 위험 우선 순위 프레임 워크가 아니며 알려진 기술 만 컴파일한다는 것입니다. 또한 공격이 매트릭스에 할당 될 수있는 것으로 나타났습니다. 마지막으로, 위협 매트릭스는 보안 기계 학습 커뮤니티 및 공격자로부터 피드백을 받으면 주기적으로 업데이트됩니다. 또한 공동 작업자가 새로운 기술을 지적하고 모범 사례를 제안하며 성공적인 공격 사례를 공유하도록 장려합니다.
