from sentence_transformers import SentenceTransformer

model = SentenceTransformer("genshiai-daichi/med-ruri-v3-70m")

queries = ["バンコマイシンのトラフ目標値は?"]
docs = ["MRSA 感染症における Vancomycin の TDM では ..."]

q = model.encode(queries, prompt_name="query", normalize_embeddings=True)
d = model.encode(docs,    prompt_name="document", normalize_embeddings=True)

scores = q @ d.T   # cosine similarity

評価 (in-domain retrieval, held-out 2,000 queries)

	nDCG@10
`cl-nagoya/ruri-v3-70m` (base)	0.3052
med-ruri-v3-70m (step 5000)	0.4237

用途

日本語の医療文書 (診療ガイドライン等) に対する 意味検索 / retrieval
医療 RAG の retriever (質問 → 関連 passage の検索)
文書間の意味的類似度・クラスタリング

制限事項

日本語の医療ドメイン特化。一般ドメインや他言語は base モデルの素の性能に近づきます
上記 nDCG は held-out の合成クエリでの in-domain 評価であり、実運用性能は別途検証を推奨
推論時は prefix 必須 (検索クエリ: / 検索文書: )

学習経過 (training progression)

fine-tune 中の held-out 検索性能 (500 step ごとに評価):

step	nDCG@10
(base)	0.3052
500	0.3708
1000	0.3920
1500	0.4012
2000	0.4061
2500	0.4139
3000	0.4150
3500	0.4176
4000	0.4231
4500	0.4232
5000	0.4237
5500	0.4218
5880	0.4223

学習 loss (MultipleNegativesRankingLoss)

step	loss
50	3.132
750	1.062
1450	0.854
2150	0.800
2850	0.727
3550	0.681
4250	0.677
4950	0.640
5650	0.656
5850	0.665

学習設定

base: cl-nagoya/ruri-v3-70m
loss: MultipleNegativesRankingLoss (scale=50, temperature=0.02)
1 epoch (5880 steps), best = step 5000 (0.85 epoch 相当)
batch 192 / max_seq 768 / lr 3e-5 / bf16 + gradient checkpointing
query/passage に Ruri prefix を付与して contrastive 学習

チェックポイント

学習途中の checkpoint は step-N ブランチに保存されています (SentenceTransformer("genshiai-daichi/med-ruri-v3-70m", revision="step-5000"))。 main は nDCG@10 が最良の checkpoint (step 5000) です。