Jacob merupakan aplikasi chatbot yang memiliki kemampuan untuk memberikan informasi
terkait program Joint Degree informatika Universitas Multimedia Nusantara. Jacob saat ini telah
dirancang untuk dapat melakukan text mining secara daring, tetapi bahasa yang digunakan hanya
tersedia dalam bahasa Inggris. Pada penelitian ini, dilakukan implementasi pre-trained model
IndoBERT-lite dan RoBERTa melalui web service untuk melakukan text mining dalam Bahasa
Indonesia. Selain itu, dilakukan juga pre-training dan fine-tuning pada model RoBERTa dengan TyDI
QA dan SQuAD Bahasa Indonesia untuk mendapatkan model yang mampu memprediksi jawaban
dalam Bahasa Indonesia. Pengujian dilakukan dengan menggunakan 5 pre-trained model dan evaluasi
untuk melihat nilai akurasi/F-Score dari hasil pengujian.