För närvarande fokuserar de flesta attacker mot artificiell intelligens (AI) på att manipulera dem. Således försöker till exempel rekommendationssystem att gynna specifikt innehåll istället för vad som legitimt skulle motsvara det. Cyberbrottslingar utnyttjar nu dessa typer av attacker med maskininlärning (ML) och har beskrivits i en hotmatris.
Enligt Microsoft, attacker mot maskininlärningssystem (ML) är ökar lite efter lite . Dessutom kommenterar MITER att under de senaste tre åren har stora företag som Microsoft, Google, Amazon och Tesla sett sina ML-system äventyras. I den meningen har de flesta organisationer inte rätt lösningar för att skydda sina maskininlärningssystem och letar efter vägledning om hur man gör det.
Således experter från Microsoft, MITER, IBM, NVIDIA, University of Toronto, Berryville Institute of Machine Learning tillsammans med andra företag och organisationer, har skapat den första versionen av Motståndsmässig ML-hotmatris . Målet är att skapa en hotmatris som hjälper säkerhetsanalytiker att upptäcka och svara på dessa typer av attacker.
Artificiell intelligens som en metod för att utföra attacker
Artificiell intelligens är en resurs som alltmer används för att infektera datorer, stjäla information och kompromissa med säkerheten. En av teknikerna där vi kan använda artificiell intelligens och maskininlärning är för dataförgiftning.
Denna attack är avsedd att manipulera en träningsdatauppsättning för att kontrollera prediktivt beteende. Målet är att det ska fungera felaktigt och att följa angriparens lokaler. På det här sättet kan du klassificera skräppostmeddelanden som lämpligt innehåll och de når vår inkorg. Här är ett exempel på hur artificiell intelligens används i cyberattacker .
Maskininlärning och säkerhet
Maskininlärning, som kommer från ML (Machine Learning), är en gren av artificiell intelligens vars mål är att utveckla tekniker som gör att datorer kan lära sig självständigt. Forskare inom maskininlärning letar efter algoritmer för att konvertera dataprover till datorprogram utan att behöva skriva dem. De resulterande programmen måste alltså kunna generalisera beteenden, göra förutsägelser, fatta beslut eller klassificera saker med precision.
Mikel Rodríguez, en maskininlärningsforskare vid MITER, har kommenterat att vi nu befinner oss i samma skede med AI som vi var med Internet i slutet av 1980-talet. Vid den tiden var Internet utformat för att fungera och var inte avsett att byggas på egen hand. säkerhet för att mildra möjliga attacker.
Du kan dock lära dig av det misstaget, och det är därför den motsatta ML-hotmatrisen har skapats. Det som är tänkt att uppnås är att den här matrisen hjälper till att tänka holistiskt och stimulerar till bättre kommunikation. Det är alltså avsett att främja samarbete mellan organisationer genom att tillhandahålla ett gemensamt språk för olika sårbarheter.
Vad motståndar ML-hotmatrisen ger oss
Tack vare denna matris av hot kan säkerhetsadministratörer arbeta med modeller baserade på verkliga incidenter och som efterliknar en motståndares beteende med maskininlärning. För att skapa matrisen använde de ATT & CK som en mall eftersom säkerhetsanalytiker känner till att använda denna typ av matris.
I hotmatrisen har vi de olika faserna av attacken, såsom: erkännande, initial åtkomst, exekvering, uthållighet, undvikande, exfiltrering och påverkan. På detta sätt, i det andra steget av första åtkomst, hittar vi Nätfiske attack som talas så mycket om. Om du vill konsultera mer information om beskrivningen av Adversarial ML Matrix-faserna, här är denna länk.
Ett viktigt faktum att komma ihåg är att hotmatrisen inte är ett ramverk för riskprioritering, utan bara sammanställer kända tekniker. Dessutom har det visat sig att attacker kan tilldelas matrisen. Slutligen kommer hotmatrisen att uppdateras regelbundet när feedback mottas från säkerhetsmaskininlärningssamhället och motståndare. De vill också uppmuntra medarbetare att påpeka nya tekniker, föreslå bästa praxis och dela exempel på framgångsrika attacker.