Atualmente, a maioria dos ataques dirigidos contra sistemas de inteligência artificial (IA) se concentra em manipulá-los. Assim, por exemplo, os sistemas de recomendação tentam favorecer um conteúdo específico, ao invés do que legitimamente corresponderia a ele. Agora, os cibercriminosos estão aproveitando esses tipos de ataques usando aprendizado de máquina (ML) e foram descritos em uma matriz de ameaças.
De acordo com o Microsoft, ataques a sistemas de aprendizado de máquina (ML) e guarante que os mesmos estão aumentando pouco a pouco . Além disso, MITER comenta que, nos últimos três anos, grandes empresas como Microsoft, Google, Amazon e Tesla viram seus sistemas de ML comprometidos. Nesse sentido, a maioria das organizações não tem as soluções certas para proteger seus sistemas de aprendizado de máquina e está procurando orientação sobre como fazer isso.
Assim, especialistas da Microsoft, MITER, IBM, NVIDIA, a Universidade de Toronto, o Instituto de Aprendizado de Máquina de Berryville, juntamente com outras empresas e organizações, criaram a primeira versão do Matriz de Ameaças Adversarial ML . Seu objetivo é criar uma matriz de ameaças que ajude os analistas de segurança a detectar e responder a esses tipos de ataques.
Inteligência artificial como método para realizar ataques
A inteligência artificial é um recurso cada vez mais usado para infectar computadores, roubar informações e comprometer a segurança. Uma das técnicas em que podemos usar inteligência artificial e aprendizado de máquina é para envenenamento de dados.
Este ataque tem como objetivo manipular um conjunto de dados de treinamento para controlar o comportamento preditivo. O objetivo é que ele funcione mal e obedeça às premissas do invasor. Dessa forma, você pode classificar os e-mails de spam como conteúdo apropriado e eles chegarão à nossa caixa de entrada. Aqui está um exemplo de como inteligência artificial é usado em ciberataques .
Aprendizado de máquina e segurança
O aprendizado de máquina, que vem do ML (Machine Learning), é um ramo da inteligência artificial cujo objetivo é desenvolver técnicas que permitam aos computadores aprender de forma autônoma. Pesquisadores em aprendizado de máquina buscam algoritmos para converter amostras de dados em programas de computador, sem ter que escrevê-los. Assim, os programas resultantes devem ser capazes de generalizar comportamentos, fazer previsões, tomar decisões ou classificar as coisas com precisão.
Mikel Rodríguez, um pesquisador de aprendizado de máquina do MITER, comentou que agora estamos no mesmo estágio com a IA que estávamos com a Internet no final dos anos 1980. Naquela época, a Internet foi projetada para funcionar, e não para ser construída por conta própria. segurança para mitigar possíveis ataques.
No entanto, você pode aprender com esse erro e é por isso que a Matriz de Ameaças Adversarial ML foi criada. O que se pretende alcançar é que esta matriz ajude a pensar de forma holística e estimule uma melhor comunicação. Assim, pretende-se promover a colaboração entre organizações, disponibilizando uma linguagem comum às diferentes vulnerabilidades.
O que a matriz de ameaças de ML do adversário nos oferece
Graças a essa matriz de ameaças, os administradores de segurança podem trabalhar com modelos baseados em incidentes reais e que emulam o comportamento de um adversário por meio do aprendizado de máquina. Para criar a matriz, eles usaram ATT & CK como modelo porque os analistas de segurança estão familiarizados com o uso desse tipo de matriz.
Na matriz de ameaças, temos as diferentes fases do ataque, tais como: reconhecimento, acesso inicial, execução, persistência, evasão, exfiltração e impacto. Desta forma, na segunda etapa do acesso inicial, encontramos o Phishing ataque que tanto se fala. Se desejar consultar mais informações sobre a descrição das fases da Matriz Adversarial ML, clique aqui.
Um fato importante a se ter em mente é que a matriz de ameaças não é uma estrutura de priorização de risco e apenas compila técnicas conhecidas. Além disso, foi demonstrado que os ataques podem ser atribuídos à matriz. Por fim, a matriz de ameaças será atualizada periodicamente conforme o feedback é recebido da comunidade de aprendizado de máquina de segurança e dos adversários. Eles também querem encorajar os colaboradores a apontar novas técnicas, propor melhores práticas e compartilhar exemplos de ataques bem-sucedidos.