A detecção fora de distribuição (OOD) é uma forma de teste usada em sistemas de computador para detectar ou identificar quaisquer dados fora de distribuição que sejam apresentados ao sistema. Dados fora de distribuição são dados que não estão na faixa normal ou esperada de dados. Este tipo de teste ajuda a proteger os sistemas contra agentes potencialmente maliciosos.
A detecção fora de distribuição é comumente usada em algoritmos de aprendizado de máquina e sistemas de aprendizado profundo, bem como em outras áreas da ciência da computação, como detecção de invasões e detecção de malware. Quando um algoritmo é treinado usando dados de treinamento, ele espera dados em sua própria distribuição. Um ator mal-intencionado pode tentar fornecer dados fora da distribuição esperada, a fim de causar mau funcionamento do algoritmo ou revelar informações potencialmente confidenciais. OOD pode detectar e impedir que isso aconteça.
O OOD geralmente pode detectar dados fora de distribuição de duas maneiras: detectando diferenças entre os dados de entrada e os dados de entrada esperados ou detectando mudanças na estrutura da saída do algoritmo. Geralmente, os algoritmos de aprendizagem supervisionada usarão a técnica anterior, onde a entrada pode ser comparada com os pontos de dados esperados dos dados de treinamento. Algoritmos de aprendizado não supervisionado geralmente usam a última técnica para detectar mudanças na estrutura da saída do algoritmo, já que geralmente não usam nenhum dado de treinamento.
A detecção fora de distribuição é uma parte importante para manter os sistemas de computador seguros, pois pode ajudar a impedir que atores mal-intencionados explorem vulnerabilidades no sistema. Também pode ajudar a proteger os modelos de aprendizado de máquina contra uso para fins maliciosos.
