Contoh permusuhan adalah data masukan yang digunakan untuk menyesatkan model pembelajaran mesin, biasanya melibatkan jaringan saraf tiruan (JST). Contoh-contoh ini menyebabkan model salah mengklasifikasikan masukan, meskipun ada upaya untuk memberi label dengan benar. Contoh permusuhan biasanya dihasilkan menggunakan proses optimasi berulang yang merancang masukan yang memaksimalkan kemungkinan keluaran yang salah.
Contoh-contoh permusuhan berguna dalam penelitian karena memberikan bukti nyata tentang potensi kerentanan dalam ANN, dan memberikan dasar untuk mengembangkan model pembelajaran mesin yang lebih kuat. Misalnya, contoh umum dari contoh permusuhan adalah sistem visi komputer yang kesulitan membedakan kucing dari anjing. Dengan memberikan gambar anjing yang diberi label dengan benar dan dimodifikasi sedemikian rupa sehingga model salah mengklasifikasikannya sebagai kucing, peneliti dapat memperoleh wawasan tentang pola apa yang digunakan ANN untuk mengklasifikasikan gambar tersebut.
Selain digunakan dalam penelitian, contoh permusuhan juga dapat digunakan sebagai vektor serangan oleh pelaku kejahatan. Misalnya, musuh dapat menggunakan contoh permusuhan untuk mengelabui model deteksi penipuan kartu kredit agar menyetujui pembelian yang menipu. Untuk memitigasi jenis serangan ini, para peneliti telah mengembangkan teknik seperti pelatihan permusuhan, yang menggunakan contoh-contoh permusuhan yang dihasilkan untuk melatih ANN agar lebih kuat.
Contoh-contoh permusuhan mewakili bidang studi yang berkembang, dengan metode, penerapan, dan hasil penelitian baru yang dipublikasikan dengan sangat cepat. Seiring dengan tantangan terbuka lainnya dalam pembelajaran mesin, mengembangkan model yang kuat terhadap contoh-contoh yang merugikan merupakan isu penting untuk perlindungan yang efisien terhadap aplikasi berbasis AI.
