Attualmente, la maggior parte degli attacchi diretti contro i sistemi di intelligenza artificiale (AI) si concentra sulla loro manipolazione. Così, ad esempio, i sistemi di raccomandazione cercano di favorire contenuti specifici, invece di ciò che gli corrisponderebbe legittimamente. I criminali informatici stanno ora sfruttando questi tipi di attacchi utilizzando l'apprendimento automatico (ML) e sono stati descritti in una matrice delle minacce.
Secondo Microsoft, attacchi ai sistemi di machine learning (ML) cambiano ciclicamente aumentando a poco a poco . Inoltre, MITRE commenta che, negli ultimi tre anni, importanti aziende come Microsoft, Google, Amazon e Tesla hanno visto i loro sistemi di machine learning compromessi. In questo senso, la maggior parte delle organizzazioni non ha le giuste soluzioni per proteggere i propri sistemi di machine learning e cerca indicazioni su come farlo.
Pertanto, esperti di Microsoft, MITRE, IBM, NVIDIA, l'Università di Toronto, il Berryville Institute of Machine Learning insieme ad altre società e organizzazioni, hanno creato la prima versione di Matrice delle minacce ML del contraddittorio . Il suo obiettivo è creare una matrice delle minacce che aiuti gli analisti della sicurezza a rilevare e rispondere a questi tipi di attacchi.
L'intelligenza artificiale come metodo per eseguire attacchi
L'intelligenza artificiale è una risorsa sempre più utilizzata per infettare i computer, rubare informazioni e compromettere la sicurezza. Una delle tecniche in cui possiamo utilizzare l'intelligenza artificiale e l'apprendimento automatico è per l'avvelenamento dei dati.
Questo attacco ha lo scopo di manipolare un set di dati di addestramento per controllare il comportamento predittivo. L'obiettivo è che funzioni male e obbedisca alle premesse dell'aggressore. In questo modo, potresti classificare le email di spam come contenuti appropriati e raggiungeranno la nostra casella di posta. Ecco un esempio di come intelligenza artificiale viene usato negli attacchi informatici .
Apprendimento automatico e sicurezza
Il machine learning, che deriva dal ML (Machine Learning), è una branca dell'intelligenza artificiale il cui obiettivo è sviluppare tecniche che permettano ai computer di apprendere in modo autonomo. I ricercatori in machine learning sono alla ricerca di algoritmi per convertire campioni di dati in programmi per computer, senza doverli scrivere. Pertanto, i programmi risultanti devono essere in grado di generalizzare i comportamenti, fare previsioni, prendere decisioni o classificare le cose con precisione.
Mikel Rodríguez, un ricercatore di machine learning presso MITRE, ha commentato che ora siamo nella stessa fase con l'IA come lo eravamo con Internet alla fine degli anni '1980. A quel tempo Internet era progettato per funzionare e non era concepito per essere costruito da solo. sicurezza per mitigare possibili attacchi.
Tuttavia, puoi imparare da quell'errore, ed è per questo che è stata creata la matrice delle minacce di Adversarial ML. Ciò che si intende ottenere è che questa matrice aiuti a pensare in modo olistico e stimolerà una migliore comunicazione. Pertanto, si intende promuovere la collaborazione tra le organizzazioni fornendo un linguaggio comune delle diverse vulnerabilità.
Cosa ci offre la matrice delle minacce ML dell'avversario
Grazie a questa matrice di minacce, gli amministratori della sicurezza possono lavorare con modelli basati su incidenti reali e che emulano il comportamento di un avversario utilizzando l'apprendimento automatico. Per creare la matrice, hanno utilizzato ATT & CK come modello perché gli analisti della sicurezza hanno familiarità con l'utilizzo di questo tipo di matrice.
Nella matrice delle minacce, abbiamo le diverse fasi dell'attacco, come: riconoscimento, accesso iniziale, esecuzione, persistenza, evasione, esfiltrazione e impatto. In questo modo, nella seconda fase di accesso iniziale, troviamo il file phishing attacco di cui si parla tanto. Se vuoi consultare maggiori informazioni sulla descrizione delle fasi di Adversarial ML Matrix, ecco questo link.
Un fatto importante da tenere a mente è che la matrice delle minacce non è un framework di prioritizzazione del rischio e compila solo tecniche note. Inoltre, è stato dimostrato che gli attacchi possono essere assegnati alla matrice. Infine, la matrice delle minacce verrà aggiornata periodicamente man mano che il feedback viene ricevuto dalla comunità di apprendimento automatico della sicurezza e dagli avversari. Vogliono anche incoraggiare i collaboratori a segnalare nuove tecniche, proporre migliori pratiche e condividere esempi di attacchi riusciti.
