적대적 예는 일반적으로 인공 신경망(ANN)과 관련된 기계 학습 모델을 오도하는 데 사용되는 입력 데이터입니다. 이러한 예는 모델이 입력에 올바르게 레이블을 지정하려는 노력에도 불구하고 입력을 잘못 분류하게 만듭니다. 적대적인 예는 일반적으로 잘못된 출력의 확률을 최대화하는 입력을 설계하는 반복 최적화 프로세스를 사용하여 생성됩니다.
적대적 사례는 ANN의 잠재적 취약성에 대한 실질적인 증거를 제공하고 보다 강력한 기계 학습 모델을 개발하기 위한 기반을 제공하므로 연구에 유용합니다. 예를 들어, 적대적 사례의 일반적인 예는 고양이와 개를 구별하는 데 어려움을 겪는 컴퓨터 비전 시스템입니다. 모델이 고양이로 잘못 분류하는 방식으로 수정된 개의 올바르게 레이블이 지정된 이미지를 제공함으로써 연구자는 ANN이 이미지를 분류하는 데 사용하는 패턴에 대한 통찰력을 얻을 수 있습니다.
연구에 사용되는 것 외에도 적대적인 사례는 악의적인 행위자의 공격 벡터로 사용될 수도 있습니다. 예를 들어, 공격자는 적대적인 예를 사용하여 신용 카드 사기 탐지 모델을 속여 사기 구매를 승인할 수 있습니다. 이러한 유형의 공격을 완화하기 위해 연구원들은 생성된 적대적 예제를 사용하여 ANN을 더욱 강력하게 훈련시키는 적대적 훈련과 같은 기술을 개발했습니다.
적대적인 사례는 새로운 방법, 응용 프로그램 및 연구 결과가 빠른 속도로 발표되면서 성장하는 연구 분야를 나타냅니다. 기계 학습의 다른 공개 과제와 함께 적대적인 사례에 대한 강력한 모델을 개발하는 것은 AI 기반 애플리케이션을 효율적으로 보호하기 위한 중요한 문제입니다.
