În prezent, majoritatea atacurilor îndreptate împotriva sistemelor de inteligență artificială (AI) se concentrează asupra manipulării acestora. Astfel, de exemplu, sistemele de recomandare încearcă să favorizeze conținutul specific, în loc de ceea ce i-ar corespunde în mod legitim. Infractorii cibernetici profită acum de aceste tipuri de atacuri folosind machine learning (ML) și au fost descriși într-o matrice de amenințări.
În conformitate cu Microsoft, atacuri asupra sistemelor de învățare automată (ML) sunt crescând încetul cu încetul . În plus, MITRE comentează că, în ultimii trei ani, marile companii precum Microsoft, Google, Amazon și Tesla și-au văzut sistemele ML compromise. În acest sens, majoritatea organizațiilor nu au soluțiile potrivite pentru a-și proteja sistemele de învățare automată și caută îndrumări despre cum să o facă.
Astfel, experți de la Microsoft, MITRE, IBM, NVIDIA, Universitatea din Toronto, Berryville Institute of Machine Learning împreună cu alte companii și organizații, au creat prima versiune a Matrice de amenințare ML adversară . Obiectivul său este de a crea o matrice de amenințări care să ajute analiștii de securitate să detecteze și să răspundă la aceste tipuri de atacuri.
Inteligența artificială ca metodă de efectuare a atacurilor
Inteligența artificială este o resursă din ce în ce mai utilizată pentru a infecta calculatoare, a fura informații și a compromite securitatea. Una dintre tehnicile în care putem folosi inteligența artificială și învățarea automată este pentru otrăvirea datelor.
Acest atac este destinat să manipuleze un set de date de antrenament pentru a controla comportamentul predictiv. Scopul este ca acesta să funcționeze defectuos și să asculte premisele atacatorului. În acest fel, puteți clasifica e-mailurile spam ca conținut adecvat și acestea vor ajunge în căsuța de e-mail. Iată un exemplu de cum inteligență artificială este utilizat în atacuri cibernetice .
Învățare automată și securitate
Învățarea automată, care provine de la ML (Machine Learning), este o ramură a inteligenței artificiale al cărei obiectiv este să dezvolte tehnici care să permită computerelor să învețe în mod autonom. Cercetătorii în învățarea automată caută algoritmi pentru a converti eșantioane de date în programe de computer, fără a fi nevoie să le scrie. Astfel, programele rezultate trebuie să fie capabile să generalizeze comportamente, să facă predicții, să ia decizii sau să clasifice lucrurile cu precizie.
Mikel Rodríguez, cercetător în domeniul învățării automate la MITRE, a comentat că suntem acum în aceeași etapă cu AI ca și când am fost cu internetul la sfârșitul anilor 1980. În acea perioadă, internetul era conceput să funcționeze și nu era destinat să fie construit singur. securitate pentru a atenua posibilele atacuri.
Cu toate acestea, puteți învăța din această greșeală și de aceea a fost creată Adversarial ML Threat Matrix. Ceea ce se dorește a fi realizat este că această matrice ajută la gândirea holistică și va stimula o comunicare mai bună. Astfel, se intenționează să promoveze colaborarea între organizații prin furnizarea unui limbaj comun al diferitelor vulnerabilități.
Ceea ce ne oferă matricea de amenințare ML adversar
Datorită acestei matrice de amenințări, administratorii de securitate pot lucra cu modele bazate pe incidente reale și care imită comportamentul unui adversar folosind învățarea automată. Pentru a crea matricea, au folosit ATT și CK ca șablon, deoarece analiștii de securitate sunt familiarizați cu utilizarea acestui tip de matrice.
În matricea amenințărilor, avem diferitele faze ale atacului, cum ar fi: recunoașterea, accesul inițial, execuția, persistența, evaziunea, exfiltrarea și impactul. În acest fel, în a doua etapă a accesului inițial, găsim Phishing atac despre care se vorbește atât de mult. Dacă doriți să consultați mai multe informații despre descrierea fazelor Adversarial ML Matrix, iată acest link.
Un fapt important de reținut este că matricea amenințărilor nu este un cadru de prioritizare a riscurilor și compilează doar tehnici cunoscute. Mai mult, s-a demonstrat că atacurile pot fi atribuite matricei. În cele din urmă, matricea amenințărilor va fi actualizată periodic pe măsură ce se primește feedback din partea comunității de învățare automată a securității și a adversarilor. De asemenea, vor să încurajeze colaboratorii să sublinieze noi tehnici, să propună cele mai bune practici și să împărtășească exemple de atacuri de succes.
