ELMo (Emergent Language Model) adalah teknik Pemrosesan Bahasa Alami berbasis pembelajaran mendalam yang dikembangkan oleh para peneliti di Google, NY Times, Universitas Stanford, dan Institut Allen untuk Kecerdasan Buatan. ELMo menggunakan teknik pembelajaran mendalam yang disebut pemodelan bahasa dua arah untuk memberikan akurasi canggih dalam mengenali bahasa alami.
ELMo adalah model bahasa berbasis jaringan saraf berulang (RNN) yang memberikan penyematan kata. Penyematan kata dilatih pada korpus teks untuk memahami dan menangkap hubungan sintaksis dan semantik antar kata. Saat menggunakan ELMo untuk tugas pemrosesan bahasa alami (NLP) seperti analisis sentimen dan terjemahan mesin, model yang dihasilkan memiliki akurasi yang canggih.
Sementara teknik penyematan kata tradisional seperti Word2Vec dan GloVe dapat mewakili kata-kata suatu bahasa dengan vektor vektor berdimensi terbatas, ELMo menambahkan makna yang bergantung pada konteks pada vektor tersebut. Artinya kata-kata yang digunakan dalam konteks berbeda mendapatkan vektor yang berbeda. Kontekstualisasi vektor kata ini ditemukan meningkatkan kinerja banyak tugas NLP.
ELMo banyak digunakan di banyak sistem termasuk Google Translate, Google Assistant, Amazon Alexa dan Siri milik Apple. Selain itu, ELMo telah digunakan untuk pengenalan suara, klasifikasi teks, terjemahan mesin, dan menjawab pertanyaan.
ELMo merupakan langkah maju yang penting dalam pemrosesan bahasa alami, karena memungkinkan sistem baru mengenali dan menafsirkan bahasa alami dengan lebih akurat. Penggunaan model bahasa berbasis deep learning diperkirakan akan semakin meningkat di masa depan.
