Beta
Explore
Marketplace
Neural Labs
Chat
Wallet
Docs
nsfw-bge-m3-v3 – AI Model by KGESH | AlphaNeural AI
You can deploy this model and start earning money today!
KGESH
/
nsfw-bge-m3-v3
like
0
sentence-transformers
safetensors
gguf
xlm-roberta
sentence-similarity
feature-extraction
nsfw
embedding
bge-m3
en
ko
ja
BAAI/bge-m3
quantized
text-embeddings-inference
endpoints_compatible
us
not-for-all-audiences
Views
No views yet
Model card
Files and Versions
Community
API
Deploy
NSFW BGE-M3 v3 (Collapsed)
NSFW 키워드 임베딩 모델 (bge-m3 파인튜닝) — 임베딩 붕괴 발생
학습 설정
Stage 1: MNR Loss, 25,372 pairs, 3 epochs, lr=2e-5
Stage 2: OnlineContrastiveLoss, 92 hard negatives, margin=0.5, 2 epochs, lr=1e-5
문제: Embedding Collapse
모든 단어 쌍의 유사도가 0.96~0.99로 수렴
std=0.0080, NSFW-General gap=0.0091
다의어 구분 불가 (creampie vs dessert 차이 < 0.01)
원인
데이터 과다 (25K쌍) + 3에폭 과학습
margin=0.5로 너무 작음
positive_examples[:5000] 중복 주입
co-occurrence 노이즈 (10K x 4소스)
참고용
이 모델은 실사용 불가입니다. v1 또는 v4를 사용하세요.
