Spam SMS Detection Model
This model is fine-tuned from dbmdz/bert-base-turkish-128k-uncased for SMS spam detection in Turkish. It is designed to classify text messages as either Spam or Normal.
Training
The model was trained using the BERTurk tokenizer and classifier with the following configuration:
- Model:
dbmdz/bert-base-turkish-128k-uncased
- Optimizer: AdamW
- Learning rate: 5e-5
- Epochs: 4
The dataset used includes both spam and normal SMS messages, ensuring balanced representation.
Performance
The model achieved the following metrics:
- Accuracy: Will be updated after testing on more datasets.
- F1-Score: Will be updated after testing on more datasets.
- Precision: Will be updated after testing on more datasets.
- Recall: Will be updated after testing on more datasets.
Dataset
The dataset used for fine-tuning is the
Turkish SMS Collection Dataset, which is publicly available on
Kaggle. It contains 2,536 spam messages and 2,215 normal (ham) messages.
About the Dataset
The dataset is a collection of Turkish SMS messages tagged as spam or normal. It was collected from people of different age groups living in different regions of Turkey.
If you use this dataset, please cite:
Karasoy, O., Ballı, S. Spam SMS Detection for Turkish Language with Deep Text Analysis and Deep Learning Methods. Arab J Sci Eng (2021).
https://doi.org/10.1007/s13369-021-06187-1License
This model is licensed under the CreativeML OpenRAIL-M license.
- Allowed: You can use, share, and modify the model for non-commercial purposes, as long as proper attribution is given.
- Not Allowed: Commercial use or selling this model or its derivatives is strictly prohibited.
Usage
You can use this model with the Hugging Face Transformers library:
1from transformers import AutoTokenizer, AutoModelForSequenceClassification
2import torch
3
4model_name = "BaranKanat/BerTurk-SpamSMS"
5tokenizer = AutoTokenizer.from_pretrained(model_name)
6model = AutoModelForSequenceClassification.from_pretrained(model_name)
7
8test_sms = "2000 TL DENEME BONUSU KAZANDINIZ !!! YATIRIM SARTI YOK KAZANC ve CEKIM LIMITI YOK." #SPAM SMS
9
10inputs = tokenizer(test_sms, return_tensors="pt", truncation=True, padding=True)
11
12with torch.no_grad():
13 outputs = model(**inputs)
14
15logits = outputs.logits
16predicted_class = torch.argmax(logits, dim=1).item()
17
18labels = ["Normal", "Spam"] # 0: Normal, 1: Spam
19print(f"Mesaj: {test_sms}")
20print(f"Sonuç: {labels[predicted_class]} ({predicted_class})")
tags:
- text-classification
- spam-detection
license: apache-2.0
------------------------ Türkçe ------------------------
Spam SMS Tespit Modeli
Bu model, dbmdz/bert-base-turkish-128k-uncased tabanlı olarak Türkçe SMS'lerde spam tespiti için özelleştirilmiştir. Model, SMS mesajlarını Spam veya Normal olarak sınıflandırmak için tasarlanmıştır.
Eğitim
Model, BERTurk tokenizer ve sınıflandırıcı kullanılarak şu yapılandırmayla eğitildi:
- Model:
dbmdz/bert-base-turkish-128k-uncased
- Optimizatör: AdamW
- Öğrenme oranı: 5e-5
- Dönem sayısı (Epochs): 4
Eğitim verisi, hem spam hem de normal SMS mesajlarını içeren dengeli bir veri seti kullanılarak hazırlanmıştır.
Performans
Model aşağıdaki metriklere ulaşmıştır:
- Doğruluk (Accuracy): Daha fazla veri setinde test edildikten sonra güncellenecektir.
- F1-Skoru: Daha fazla veri setinde test edildikten sonra güncellenecektir.
- Kesinlik (Precision): Daha fazla veri setinde test edildikten sonra güncellenecektir.
- Duyarlılık (Recall): Daha fazla veri setinde test edildikten sonra güncellenecektir.
Veri Seti
Modelin eğitimi için kullanılan veri seti,
Turkish SMS Collection Dataset adında bir veri setidir ve
Kaggle üzerinde herkese açık bir şekilde mevcuttur. Veri seti şu mesajları içermektedir:
- 2.536 spam mesaj
- 2.215 normal mesaj
Veri Seti Hakkında
Bu veri seti, spam veya normal olarak etiketlenmiş Türkçe SMS mesajlarından oluşmaktadır. Türkiye'nin farklı bölgelerinde yaşayan çeşitli yaş gruplarındaki insanlardan toplanmıştır.
Eğer bu veri setini kullanırsanız, lütfen aşağıdaki makaleyi referans gösterin:
Karasoy, O., Ballı, S. Türkçe Dilinde Derin Metin Analizi ve Derin Öğrenme Yöntemleri ile Spam SMS Tespiti. Arab J Sci Eng (2021).
https://doi.org/10.1007/s13369-021-06187-1Lisans
Bu model, CreativeML OpenRAIL-M lisansı ile lisanslanmıştır.
- İzin Verilenler: Modeli, uygun atıf sağlandığı sürece ticari olmayan amaçlarla kullanabilir, paylaşabilir ve değiştirebilirsiniz.
- İzin Verilmeyenler: Modelin veya türevlerinin ticari amaçlarla kullanılması veya satılması kesinlikle yasaktır.
Daha fazla bilgi için
CreativeML OpenRAIL-M lisans şartlarını inceleyebilirsiniz.
Kullanım
Bu modeli Hugging Face Transformers kütüphanesi ile şu şekilde kullanabilirsiniz:
1from transformers import AutoTokenizer, AutoModelForSequenceClassification
2import torch
3
4model_name = "BaranKanat/BerTurk-SpamSMS"
5tokenizer = AutoTokenizer.from_pretrained(model_name)
6model = AutoModelForSequenceClassification.from_pretrained(model_name)
7
8test_sms = "2000 TL DENEME BONUSU KAZANDINIZ !!! YATIRIM SARTI YOK KAZANC ve CEKIM LIMITI YOK." #SPAM SMS
9
10inputs = tokenizer(test_sms, return_tensors="pt", truncation=True, padding=True)
11
12with torch.no_grad():
13 outputs = model(**inputs)
14
15logits = outputs.logits
16predicted_class = torch.argmax(logits, dim=1).item()
17
18labels = ["Normal", "Spam"] # 0: Normal, 1: Spam
19print(f"Mesaj: {test_sms}")
20print(f"Sonuç: {labels[predicted_class]} ({predicted_class})")
