Optimasi algoritma deteksi spam email dengan BERT-MI dan jaringan dense

Deteksi email spam merupakan tantangan penting dalam menjaga keamanan dan efisiensi komunikasi digital. Penelitian ini mengusulkan dan mengevaluasi sebuah pipeline yang dioptimalkan untuk deteksi email spam dengan mengintegrasikan Bidirectional Encoder Representations from Transformers (BERT) untuk ekstraksi fitur, seleksi fitur menggunakan Mutual Information (MI) untuk mereduksi dimensi, dan jaringan saraf dense untuk klasifikasi. Dataset Lingspam, yang terdiri dari 2893 email (2412 ham dan 481 spam), digunakan dalam eksperimen dengan pembagian 80% data pelatihan dan 20% data pengujian. Fitur teks diekstraksi menggunakan BERT (bert-base-uncased), menghasilkan embedding 768 dimensi yang kemudian direduksi menjadi 200 fitur paling relevan menggunakan MI. Model jaringan saraf dense dengan arsitektur 256-128-64-32-1 neuron dilatih menggunakan optimizer Adam, fungsi loss binary cross-entropy, dan teknik early stopping serta class weights untuk menangani ketidakseimbangan kelas. Hasil evaluasi pada data pengujian menunjukkan performa yang sangat tinggi dengan akurasi 99.14%, presisi 0.9596, recall 0.9896, F1-score 0.9744, dan ROC-AUC 0.9995. Pendekatan ini menunjukkan bahwa kombinasi BERT-MI dengan jaringan dense mampu mencapai akurasi yang sebanding dengan metode yang lebih kompleks, namun dengan potensi arsitektur yang lebih sederhana dan efisien.