Optimasi Bayesian (juga dikenal sebagai optimasi kotak hitam) adalah teknik optimasi yang menggunakan inferensi Bayesian untuk mencari nilai optimal dari fungsi yang tidak diketahui. Ini adalah jenis algoritme pengoptimalan yang semakin populer dalam pembelajaran mesin dan kecerdasan buatan.
Dalam optimasi Bayesian, proses optimasi dilakukan dengan membuat serangkaian pilihan berdasarkan informasi untuk mencapai hasil yang optimal. Hal ini berfokus pada keseluruhan proses eksplorasi dan eksploitasi, dengan tujuan menemukan solusi terbaik berdasarkan serangkaian kriteria yang telah ditentukan.
Pengoptimalan Bayesian bekerja dengan membuat model fungsi yang tidak diketahui yang kemudian digunakan untuk membuat pilihan berdasarkan nilai parameter mana yang akan diuji. Model ini diperbarui setelah setiap iterasi dan dilengkapi dengan data tambahan, sehingga lebih akurat dalam memprediksi nilai parameter terbaik. Jenis pengoptimalan ini dapat diterapkan pada masalah dengan ruang input dan output kontinu atau biner, dan telah banyak diterapkan dalam penyetelan hyperparameter.
Optimasi Bayesian sangat cocok untuk masalah yang tidak dapat diselesaikan dengan mudah dengan teknik optimasi berbasis gradien. Selain itu, pendekatan ini dapat secara efisien mengurangi jumlah iterasi yang diperlukan untuk mencapai solusi, seringkali menghasilkan nilai optimal dalam iterasi yang jauh lebih sedikit dibandingkan pendekatan klasik.
Prosedur optimasi Bayesian adalah salah satu alat paling ampuh yang tersedia untuk mengoptimalkan sistem yang kompleks dan dapat digunakan untuk berbagai tugas, seperti optimasi desain, pemodelan prediktif, dan kontrol cerdas. Ia juga mudah beradaptasi dengan berbagai situasi, karena memerlukan sedikit informasi sebelumnya tentang sistem yang sedang dioptimalkan.
