Bias dan Variance adalah dua konsep dasar dalam Machine Learning yang berperan penting dalam pemilihan model dan optimalisasi performa.
Bias adalah ukuran seberapa baik suatu model secara akurat menangkap hubungan mendasar antara data masukan dan keluaran yang diharapkan. Model dengan bias tinggi mungkin terlalu menyederhanakan dan mengabaikan pola-pola penting dalam data, sehingga menghasilkan kinerja yang buruk ketika diterapkan pada situasi baru. Sebaliknya, model dengan bias rendah mungkin terlalu rumit, sehingga menyebabkan overfitting dan prediksi menjadi kurang stabil.
Varians, di sisi lain, mengukur seberapa besar variasi prediksi suatu model berdasarkan data yang diberikan. Model dengan varian tinggi cenderung terlalu sensitif terhadap perubahan kecil pada data pelatihan, sehingga sulit untuk melakukan generalisasi di luar kumpulan data tertentu. Sebaliknya, model dengan varians rendah akan menawarkan prediksi yang lebih kuat, namun mungkin tidak akurat dalam menangkap seluruh data.
Model yang optimal harus mencapai keseimbangan antara bias dan varians; Terlalu banyak keduanya dapat menyebabkan kinerja buruk. Hal ini sering disebut sebagai Bias-Variance Tradeoff, yang memberikan panduan penting dalam optimalisasi model Machine Learning apa pun.
