La detección fuera de distribución (OOD) es una forma de prueba utilizada en sistemas informáticos para detectar o identificar cualquier dato fuera de distribución que se presente al sistema. Los datos fuera de distribución son datos que no se encuentran en el rango normal o esperado de datos. Este tipo de prueba ayuda a proteger los sistemas de actores potencialmente maliciosos.
La detección fuera de distribución se usa comúnmente dentro de algoritmos de aprendizaje automático y sistemas de aprendizaje profundo, así como en otras áreas de la informática, como la detección de intrusiones y la detección de malware. Cuando un algoritmo se entrena utilizando datos de entrenamiento, esperará datos en su propia distribución. Un actor malintencionado podría intentar proporcionar datos fuera de la distribución esperada, para provocar un mal funcionamiento del algoritmo o revelar información potencialmente confidencial. OOD puede detectar y prevenir que esto suceda.
OOD generalmente puede detectar datos fuera de distribución de dos maneras: detectando diferencias entre los datos de entrada y los datos de entrada esperados, o detectando cambios en la estructura de la salida del algoritmo. Generalmente, los algoritmos de aprendizaje supervisado utilizarán la primera técnica, donde la entrada se puede comparar con los puntos de datos esperados de los datos de entrenamiento. Los algoritmos de aprendizaje no supervisados normalmente utilizarán la última técnica para detectar cambios en la estructura de la salida del algoritmo, ya que generalmente no utilizan ningún dato de entrenamiento.
La detección fuera de distribución es una parte importante para mantener seguros los sistemas informáticos, ya que puede ayudar a evitar que actores malintencionados aprovechen las vulnerabilidades del sistema. También puede ayudar a proteger los modelos de aprendizaje automático para que no se utilicen con fines maliciosos.
