Open Journal Systems

Optimasi Hyperparameter Model Ensemble untuk Klasifikasi Sentimen Ulasan OVO

       Annisa Himatul Chasanah, Harun Al Azies

Abstract


Pertumbuhan layanan dompet digital di Indonesia mendorong meningkatnya jumlah ulasan pengguna yang mengandung opini penting terkait kualitas layanan. Analisis sentimen menjadi penting untuk memahami persepsi pengguna terhadap aplikasi OVO. Penelitian ini menganalisis 10.644 ulasan dari Google Playstore yang dikumpulkan melalui teknik web scraping. Ulasan tersebut diproses melalui tahapan text preprocessing, representasi fitur menggunakan Word2Vec, serta penyeimbangan kelas menggunakan Synthetic Minority Oversampling Technique (SMOTE). Tiga algoritma ensemble learning yaitu Random Forest, XGBoost, dan LightGBM diterapkan dan dioptimasi melalui Grid Search dan Randomized Search, dengan evaluasi menggunakan 10-Fold Cross-Validation serta uji statistik paired t-test. Hasil menunjukkan bahwa meskipun XGBoost dan LightGBM memperoleh nilai cross-validation yang lebih tinggi, performa terbaik pada data uji dicapai oleh Random Forest. Model tersebut mencapai akurasi 89,90% dan ROC-AUC Macro 91,11% pada skema Grid Search, serta akurasi 89,76% dan ROC-AUC Macro 91,19% pada skema Randomized Search. Temuan ini menunjukkan bahwa Random Forest memiliki kemampuan generalisasi paling stabil terhadap data ulasan OVO dibandingkan dua model boosting. Penelitian ini memberikan kontribusi pada pengembangan analisis sentimen berbahasa Indonesia melalui integrasi Word2Vec, SMOTE, dan optimasi hyperparameter, serta membuka peluang eksplorasi lanjutan menggunakan contextual embedding dan teknik penyeimbangan data yang lebih adaptif.

  http://dx.doi.org/10.31544/jtera.v10.i2.2025.95-104

Keywords


Analisis sentimen; word2vec; smote; optimasi hyperparameter; random forest

Full Text:

  PDF

References


A. Lowell, A. Lowell, K. Candra, E. Indra, and S. Informasi, “Perbandingan Metode Support Vector Machine (SVM) Dan Naive Bayes Pada Analisis Sentimen Ulasan Aplikasi OVO,” Jurnal Media Informatika [Jumin], vol. 7, no. 1, pp. 125–133, 2025.

S. A. Ghaffar and W. C. Setiawan, “Comparative Sentiment Analysis of Digital Wallet Applications in Indonesia Using Naïve Bayes,” vol. 8, no. 2, pp. 55–66, 2025.

M. J. Setiawan and V. R. S. Nastiti, “DANA App Sentiment Analysis: Comparison of XGBoost, SVM, and Extra Trees,” Jurnal Sisfokom (Sistem Informasi dan Komputer), vol. 13, no. 3, pp. 337–345, 2024, doi: 10.32736/sisfokom.v13i3.2239.

M. Ramdan, A. Surya, and U. Hayati, “Analisis Sentimen Ulasan Pengguna Ovo Menggunakan Algoritma Naive Bayes Pada Google Play Store,” JATI (Jurnal Mahasiswa Teknik Informatika), vol. 8, no. 3, pp. 2780–2786, 2024.

A. B. Suleiman, E. D. Ajik, and S. A. Sule, “Leveraging Sentiment Analysis to Optimize Customer Experience in Digital Wallets: A Case of Opay Wallet,” Nigerian Journal of Physics, vol. 33, no. 4, pp. 147–156, 2024, doi: 10.62292/njp.v33i4.2024.322.

S. Masturoh, R. L. Pratiwi, M. R. R. Saelan, and U. Radiyah, “Application of the K-Nearest Neighbor (Knn) Algorithm in Sentiment Analysis of the Ovo E-Wallet Application,” JITK (Jurnal Ilmu Pengetahuan dan Teknologi Komputer), vol. 8, no. 2, pp. 78–83, 2023, doi: 10.33480/jitk.v8i2.3997.

I. Kurniasari, A. A. Alfin, and E. Widodo, “Implementasi Long Short-Term Memory (LSTM) dan Word Embedding Model pada Analisis Sentimen Layanan Uang Elektronik Ovo dan Link Aja,” INFORMASI(Jurnal Informatika dan Sistem Informasi), vol. 15, no. 2, pp. 237–246, 2020.

I. S. Widianto, Y. R. Ramadhan, Y. R. Ramadhan, M. A. Komara, and M. A. Komara, “Analisis Sentimen E-Wallet Gopay, Shopeepay, Dan Ovo Menggunakan Algoritma Naive Bayes,” JITET(Jurnal Informatika dan Teknik Elektro Terapan), vol. 12, no. 3S1, 2024, doi: 10.23960/jitet.v12i3s1.5277.

A. D. Rachmatsyah, T. Sugihartono, and K. Irfan, “Perbandingan Teknik Optimasi Grid Search dan Randomized Search dalam Meningkatkan Akurasi Metode Klasifikasi SVM Pada Sentimen Ulasan Pengguna Aplikasi JKN Mobile,” vol. 8, pp. 13–22, 2025.

A. Fauzi, A. H. Yunial, D. E. Saputro, and R. Saputra, “Optimalisasi Random Forest untuk Sentimen Bahasa Indonesia dengan GridSearch dan SMOTE,” pp. 202–217, 2025.

A. F. Zain, H. Al Azies, and I. K. Ananda, “Analisis Sentimen Ulasan Pengguna iPhone dengan Pendekatan Hibrida RoBERTa dan XGBoost,” Jurnal Algoritma, vol. 22, no. 1, pp. 1039–1049, Jul. 2025, doi: 10.33364/ALGORITMA/V.22-1.2277.

R. R. Putri and N. Cahyono, “Analisis Sentimen Komentar Masyarakat Terhadap Pelayanan Publik Pemerintah DKI Jakarta dengan Algoritma Super Vector Machine dan Naive Bayes,” JATI (Jurnal Mahasiswa Teknik Informatika), vol. 8, no. 2, pp. 2363–2371, 2024.

H. H. Mubaroroh, H. Yasin, and A. Rusgiyono, “Analisis sentimen data ulasan aplikasi ruangguru pada situs google play menggunakan algoritma naïve bayes classifier dengan normalisasi kata levenshtein distance,” vol. 11, no. 1, pp. 257–266, 2022.

Yusril, W. Fuadi, and Y. Afrillia, “Analisis sentimen review aplikasi stockbit di google play store dan x(twitter) menggunakan support vector machine,” vol. 10, no. 2, pp. 1050–1062, 2025.

J. Amalia, J. Pakpahan, M. Pakpahan, and Y. Panjaitan, “Model Klasifikasi Berita Palsu Menggunakan Bidirectional LSTM Dan Word2Vec Sebagai Vektorisasi,” vol. 9, no. 4, pp. 3319–3331, 2022.

P. Ayuningtyas and H. Tantyoko, “Perbandingan Metode Word2vec Model Skipgram pada Ulasan Aplikasi Linkaja menggunakan Algoritma Bidirectional LSTM dan Support Vector Machine Comparison of the Word2vec Skipgram Model Method Linkaja Application Review using Bidirectional LSTM Algorithm and Support Vector Machine,” vol. 12, no. 1, pp. 189–196, 2024, doi: 10.26418/justin.v12i1.72530.

S. K. Putri, A. Amalia, E. B. Nababan, and O. S. Sitompul, “Bahasa Indonesia pre-trained word vector generation using word2vec for computer and information technology field,” pp. 0–10, doi: 10.1088/1742-6596/1898/1/012007.

Badriyah, T. Chamidy, and Suhartono, “Application of SMOTE in Sentiment Analysis of MyXL User Reviews on Google Play Store,” vol. 10, no. 1, pp. 74–86, 2025.

R. Hornung and A. Boulesteix, “Interaction forests : Identifying and exploiting interpretable quantitative and qualitative interaction effects,” Computational Statistics and Data Analysis, vol. 171, p. 107460, 2022, doi: 10.1016/j.csda.2022.107460.

L. Zhang, X. Zhang, S. Gao, and X. Gu, “Revealing Nonlinear Relationships and Thresholds of Human Activities and Climate Change on Ecosystem Services in Anhui Province Based on the XGBoost – SHAP Model,” pp. 1–22, 2025.

L. Yang, Y. Peng, J. Chen, Y. Liu, and H. Yang, “Temporal variations in the non-linear relationships between metro ridership and the built environment : insights from interpretable machine learning using four-year data,” 2025.

J. Zhou, Y. Dai, M. Tao, M. Khandelwal, M. Zhao, and Q. Li, “Estimating the mean cutting force of conical picks using random forest with salp swarm algorithm,” Results in Engineering, vol. 17, no. December 2022, p. 100892, 2023, doi: 10.1016/j.rineng.2023.100892.

K. Afifah, I. N. Yulita, and I. Sarathan, “Sentiment Analysis on Telemedicine App Reviews using XGBoost Classifier,” 2021 International Conference on Artificial Intelligence and Big Data Analytics, pp. 22–27, 2021, doi: 10.1109/ICAIBDA53487.2021.9689735.

D. D. Rufo, T. G. Debelee, A. Ibenthal, and W. G. Negera, “Diagnosis of Diabetes Mellitus Using Gradient Boosting Machine (LightGBM),” pp. 1–14, 2021.

S. Mulyani and T. Arifin, “Prediksi Kelangsungan Hidup Pasien Gagal Jantung Menggunakan Pendekatan Machine Learning Dengan Optimasi Grid Searchcv,” pp. 577–586, 2024.

R. Reynaldi, I. Faisal, and K. Chiuloto, “Optimasi Hyperparameter Menggunakan RandomSearchCV dalam Upaya Peningkatan Akurasi Klasifikasi Pneumonia,” vol. 1, no. 2, pp. 121–135, 2025.

S. Ünalan, O. Günay, I. Akkurt, K. Gunoglu, and H. O. Tekin, “A comparative study on breast cancer classification with stratified shuffle split and K-fold cross validation via ensembled machine learning,” Journal of Radiation Research and Applied Sciences, vol. 17, no. 4, p. 101080, 2024, doi: 10.1016/j.jrras.2024.101080.

I. F. Rahman, H. Al Azies, and M. Akrom, “Deteksi Struktur Material Perovskit ABO3 Berbasis Machine Learning,” METIK JURNAL (AKREDITASI SINTA 3), vol. 9, no. 1, pp. 137–147, Jun. 2025, doi: 10.47002/METIK.V9I1.1036.




DOI: http://dx.doi.org/10.31544/jtera.v10.i2.2025.95-104
Abstract 70 View    PDF viewed = 37 View

Refbacks

  • There are currently no refbacks.


Copyright (c) 2025 JTERA (Jurnal Teknologi Rekayasa)

Creative Commons License
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Copyright @2016-2025 JTERA (Jurnal Teknologi Rekayasa) p-ISSN 2548-737X e-ISSN 2548-8678.

  Lisensi Creative Commons

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

JTERA Editorial Office:
Politeknik Sukabumi
Jl. Babakan Sirna 25, Sukabumi 43132, West Java, Indonesia
Phone/Fax: +62 266215417
Whatsapp: +62 81809214709
Website: https://jtera.polteksmi.ac.id
E-mail: [email protected]