No treinamento adversário, os dados de treinamento são aumentados por amostras “adversárias” geradas usando um algoritmo de ataque Se o invasor usar um algoritmo de ataque semelhante para gerar exemplos adversários, o adversário treinado rede pode ser bastante robusta ao ataque.
Como funciona a aprendizagem adversária?
Adversarial machine learning é uma técnica de machine learning que tenta enganar os modelos fornecendo entradas enganosas. … A maioria das técnicas de aprendizado de máquina foi projetada para funcionar em conjuntos de problemas específicos nos quais os dados de treinamento e teste são gerados da mesma distribuição estatística (IID).
Como funcionam os exemplos adversários?
Exemplos de adversários são entradas para modelos de aprendizado de máquina que um invasor projetou intencionalmente para fazer com que o modelo cometa um erro; são como ilusões de ótica para máquinas.… Uma entrada adversária, sobreposta a uma imagem típica, pode fazer com que um classificador categorize incorretamente um panda como um gibão.
O que é treinamento adversário em aprendizado profundo?
Um ataque adversário pode envolver a apresentação de um modelo de aprendizado de máquina com dados imprecisos ou deturpados durante o treinamento, ou a introdução de dados mal-intencionados para enganar um modelo já treinado e cometer erros.
O que é autotreinamento contraditório?
Para fortalecer ainda mais a capacidade de defesa, propõe-se o treinamento contraditório auto-supervisionado, que maximiza a informação mútua entre as representações dos exemplos originais e os exemplos contraditórios correspondentes.
