模型介绍
通过微调 IndexTeam/Index-1.9B-32K 得到的用于轻小说翻译的adapter, 使用时需要自行加载原模型。
数据集
通过爬虫构建按章节分的中日轻小说平行语料库，译文主要来自lk，少量的真白和esj。
经过数据清洗，最后每章译文差不多都能有1000字及以上的长度。
限制
由于微调数据和模型本身大小的原因，翻译效果可能会不如其它的微调版本，同时因为没怎么收集r18轻小说（印象中只有一本《监禁王》第一卷），不太敢保证模型对r18小说的翻译效果。
总的来说作为1.9B大小模型，微调之后的效果确实很不错（详见下方翻译示例），希望未来能出现更多这样的优质模型（还有轻小说的中日平行语料库！！！）。
翻译示例
原文:
百合とは素晴らしい、俺は百合を愛している。
百合とは女性同士の恋愛であり、決して異性同士の恋愛では得られない美しさを俺はそこに見出している。
「……やっぱ百合なんだよなぁ」
「ま～た言ってるよこいつは……」
俺の呟きに隣を歩いていた友人が呆れたようにそう返す。
「すまんすまん。気を付けては居るんだけど、やっぱり好きなものになると饒舌になっちまうタイプでな」
「さっきのは別に饒舌とも違うけど？」
「……まあそうか」
「ま、良いけどよ。俺もお前みたいに好きなことを話すと止まらなくなるしな」
「……へへ」
「ははっ」
どちらからともなく手を上げてパンと小気味の良い音が響き渡った。
「それじゃあ俺はここで。バイト頑張れよ」
「あいよ～おつ～」
友人と別れ、俺は急がないとなと思って走り出した。
さて、突然だが俺の名前は伊表いおもて咲夜さくやといってどこにでも居る高校二年生だ。
特に秀でた能力は持っていないが、一応テストで親や先生に心配されない程度には学があるのと、百合に対する探究心だけは誰にも負けることはないと自負している。
あ、後は格闘技が大好きな妹に付き合わされる形で、よく技を掛けたり掛けられたりしているので体の方も少しばかり強い。
「とっととバイトを済ませて帰って……それから……ぐへへ」
一昨日発売したばかりの百合ゲームが俺を待っているので、俺は早くバイトを終わらせてゲームをしなければならない。
そもそもどうして俺がこんなに百合が好きなのかって話だけど、理由は単純で女の子同士の恋愛が好きなだけだ。
「美少女同士の恋愛ってなんかこう……尊いんだよなぁ。てぇてぇだよてぇてぇ」
ゲームや漫画、アニメといった二次元の存在だけでなく、最近流行りのＶｔｕｂｅｒでも女の子同士のやり取りにキャッキャウフフしたりする界隈もあるので、本当に百合というのは多くの人に愛されているジャンルなわけだ。
……まあそういう意図がないのにコメントでずっとてぇてぇなんてしている視聴者を見ていると、流石にちょっとしつこいとは思うんだがな。
「百合を愛する紳士として、女の子を困らせるなど言語道断だぜ」
そんなわけで、とにかく早くバイトを済ませてゲームをプレイするんだ！
「ち～っす！」
「お、来たな咲夜。待ってたぞ」
俺のバイト先はとあるデパートなんだが、そこのイメージキャラクターの着ぐるみを着てティッシュや風船を渡すという可愛らしいバイトである。
流石に夏場になると熱さで何度か熱中症になりかけたことはあるのだが、それでもかなりお金はくれるので体力のある俺にはうってつけのバイトだ。
（ま、ほとんどゲームとかに消えるわけだが……）
これも全てゲームや漫画、アニメで百合成分を補給するためだ。
「誰もやりたがらねえんだが、咲夜が来てくれて助かったぜ」
「まあ臭くなったりしますもんね」
「それなぁ。それじゃあ頼むぜ咲夜」
「あいあいさ～」
俺より二回りも年上のおっちゃんだけど、かなり長い付き合いということもあって子供と大人だがかなり仲が良い。
店に出て行ったおっちゃんを見送り、俺はいつもの戦闘服を身に纏う。
白いクマのような着ぐるみで名前はツッキーと言い、近々ゆるキャラグランプリも目指しているとかでかなり気合が入っている着ぐるみだ。
（……グランプリの時は是非中の人をやってほしいとか言われたけど、流石にガキの俺に頼むなよな）
まあそれでも、頼られるのは好きなので頑張っちゃうかもしれないが。
「よし、それじゃあ行くぜ」
普段の学生姿からツッキーとなった俺は外に出た。
ちなみに、この状態でも別に声は出しても良いとのことで、割とデパートやその近辺に来てくれる人たちとは顔なじみだ……もちろんツッキーとして。
「あ！ ツッキーだ！」
「あら本当。今からお仕事なの？」
よく出会う子連れの二人が近づいてきた。
「はい。今日はこれからっすね。おうおう、今日も元気だねぇ。ということでアメちゃんをあげよう」
「わぁ！ ありがとうツッキー！」
「ありがとうございます」
ティッシュとかチラシなどは大人に渡すのだが、小さな子供にはアメを渡したりと臨機応変に対応している。
元々アメに関しては俺が用意したものだったのだが、いつの間にかこれが原因で子供たちからかなり気に入られてしまい、おっちゃんの耳にも入ってそれくらいこっちが用意すると言われ、今となっては子供たちに配る用のお菓子が大量に備蓄されている。
「おうツッキー、今日も頑張ってんな！」
「またそっちに買い物に行くわ。頑張ってね」
「ツッキー肩車して！」
「ツッキー遊んで～！」
やれやれ、人気者は辛いぜ全く。
こんな風に俺はツッキーとしてこの辺りでは人気者なのだが、俺は彼らの前で一度も正体を見せたことはなく、俺の素顔を知っている人は居ない。
父と母、そしてさっきの友人くらいしか知っておらず、妹も俺がこのようなバイトをしていることは知らない。
「……百合、百合、ゆ～りゆり♪」
自分で自作した奇妙な歌を口ずさみつつバイトに勤しんでいると、俺の目の前を二人の女子が歩いていた。
（……あ）
その二人の女子はハッキリ言えば俺が知っている二人だった。
（水瀬さんと藍沢さんじゃないか）
キリッとした雰囲気の水瀬みなせ由香ゆか、ほんわかした雰囲気の藍沢あいざわ舞まい……二人ともうちの高校でとびっきりの美人だと人気の子たちで俺の同級生である。
二人ともタイプの違う美しさもさることながら、男の欲望を一身に集めてしまうほどの豊満なスタイル……そして何より、二人にある噂があった。
（……この二人……絶対に出来てるよな！？ そうだと言ってくれよおおおおおおおおおおおおおおおっ！！）
二人は互いに腕を組んで歩いており、しかも手元に持っているアイスクリームを互いに食べさせたりとそれはもうカップルの姿だった。
実は彼女たちは別にお互いの関係性を公言はしていないのだが、もしかしたら付き合っているのではないかと囁かれている。
そう、リアル百合だ！
「……ふへ」
おっと、つい気持ちの悪い笑いが出ちまったぜ自重だ。
（けど、絶対にこれはそうに決まってるぜ……）
俺の百合センサーがビンビンに反応しているから間違いないだろう。
数多の男子たちが彼女たちに告白したものの身を結んだ事実はなく、何をするにしてもどんな時もこの二人は常に一緒に居るため、逆にその二人の中に異物は入り込むなとも言われているほどなのだ。
（俺はずっと、リアルの百合なんて……っと思ってたんだが、彼女たちみたいに本当に仲が良くて、おまけに美少女たちってなると目の保養だよなぁ）
彼女たちと接点は全くないのだが、こうして眺めるだけでも日々の活力になるしバイトにも精が出るってもんだ。
残りの時間も頑張るか、そう思った俺だったが……彼女たちに近づく一人の男が居たのだ。
「よう嬢ちゃんたちぃ……二人で仲が良さそうじゃねえか。なあなあ、これから俺と良いことしねえかぁ？」
「っ……なんですかあなたは」
「……由香」
見るからにナンパ、何の捻りもない迷惑なナンパだった。
この辺りはそれなりに人通りが多いということもあって警察もかなり見回っているので、騒ぎになったらすぐに面倒なことになるというのに勇気のある男だ。
しかし……俺の中で必要のない正義がバーニングしていた。
「……おいおい、何間に入ろうとしてんだあのカスは」
彼女たちはきっと俺のことをただのクラスメイトだとしか思っていないだろうが、俺は百合の園を守る監視員にして守護者だ――つまり、怒っていた。
「ツッキー、これ」
「うん？ ははっ、サンキューな」
「やっちゃえツッキー！」
俺の傍にいつの間にかやってきていた子供からバットを受け取り、俺は歩き出す。
もちろん殴ったりしないぜ？ それは流石に犯罪だからな。
▽▼
それは男の前に突然現れた。
「な、なんだてめえは……」
それは白いクマだった。
ファンタジー要素が大量に敷き詰められた服を身に纏うその白いクマの正体はツッキーと呼ばれ、この辺りで幅広い層に人気の着ぐるみだった。
「あなたは……？」
「ツッキー？」
庇ってもらう形になった由香と舞だったが、彼女たちもツッキーのことは知っていた。
よく通る場所ということもあって、子供たちに人気のツッキーの姿はよく目にしていたし、自分たちがもう少し小さければその着ぐるみを思いっきり抱きしめたりしたいと思うことは少なくはなかった。
「てめえ、何の権利があって二人に声を掛けてんだ？」
「お前には……関係ねえだろうが！？」
「関係あるに決まってんだろうがカスが。俺はツッキー、またの名を百合の園を愛し守る守護者だ――自称な」
二人は気付いていないだろうが、ツッキーの中の人はかなりキレており、まるでその雰囲気が姿にも現れるかのごとく男をビビらせている。
子供たちウケを狙っている優しい顔のはずなのに、その二つの瞳はまるで全てを喰らい尽くしてやると言わんばかりに赤く光っている（ただの蛍光シール）。
「今ならまだ見逃してやる。とっとと消えろ」
「……てめ――」
「消えろ」
ゆらりとバットを持った手が動いたことで、チンピラの男は小さな悲鳴を上げて逃げて行った。
「百合の間に挟まろうとすんじゃねえよ全くよう。大丈夫か？」
「……あ」
「……うん」
振り返ったツッキーは優しい声音で語り掛けてきた。
（……良い声ね。ちょっとドキドキするわ）
隠れ性癖である声フェチの由香、ツッキーの声にときめいていた。
それはある意味で一つの出会い、これがまさか予期せぬ出会いと絡みを齎すなどツッキーの中の人はこれっぽっちも考えていなかった。
译文:
夹在百合中间的男只有死路一条
百合是美好的，我喜爱百合。
百合是女性之间的恋爱，是我无法从异性之间得到的美丽，这是我所发现的。
「……果然还是百合呢。」
「嘛～这家伙就是……」
在我喃喃自语时，身旁走过的一位朋友用惊讶的语气如此说道。
「抱歉抱歉。虽然我已经很小心了，但果然还是会喜欢上自己喜欢的东西啊。」
「刚才那不算饶舌吧？」
「……好吧。」
「算了啦。我也很喜欢说一些我喜欢的话题啊。」
「……嘿嘿。」
「哈哈。」
我们同时举起手，发出清脆的声音。
「那么我就先走了。工作加油哦。」
「好的～喔～」
与朋友告别后，我想快点离开，于是开始奔跑。
话说回来，昨天发售的新百合游戏正在等我，所以我要尽快结束工作玩那个游戏。
说起来，为什么我会这么喜欢百合呢？ 原因是单纯地喜欢女孩子之间的恋爱而已。
「少女之间的恋爱什么的，感觉好……高贵。让人心动让人心动。」
不仅仅是游戏、漫画、动画这些二次元的角色，最近流行的虚拟主播中也有人会对女孩子之间的互动感到开心，所以百合真的受到很多人的喜爱。
……不过，看到明明没有那种意思却一直发“让人心动”之类的评论的观众，我总觉得有点烦人。
「身为爱著百合的绅士，不能让女孩子为难这种事绝对不行。」
所以，无论如何都要赶快结束工作玩游戏！
「喂～！」
「咲夜，你来了。我等你好久了。」
我的工作是某家百货公司的吉祥物，要穿上吉祥物的服装，把纸巾和气球交给顾客。
夏天的时候因为太热而几次中暑，但薪水还是很不错，所以我才觉得这是份很适合我的工作。
（不过，大部分时间都用来玩游戏了……）
这也是为了补充游戏中的百合元素。
「没人想干这个，但是有咲夜在就太好了。」
「嗯？ 谢谢。」
「拜托你了，咲夜。」
「好啊～」
比我大好几岁的叔叔，虽然年纪很大了，但和我们关系很好，可能是因为他和我父亲一样都是老师的关系。
送别叔叔走出店门后，我换上平时的战斗服。
身穿白色熊装的我名叫兔姬，不久之后也会参加萌系角色大赛，所以相当有干劲。
（……冠军一定要是我的！）
我曾经被要求一定要穿这个角色，但我还是决定自己设计一个，结果就诞生了这个奇怪的角色。
推理示例
!pip install transformers==4.39.2
!pip install sentencepiece==0.1.99
!pip install accelerate==0.27.0
!pip install transformers_stream_generator==0.0.4
!pip install datasets==2.8.0
!pip install peft==0.10.0
%cd /kaggle/working
! apt install -y aria2
! wget https://hf-mirror.com/hfd/hfd.sh
! chmod a+x hfd.sh
! export HF_ENDPOINT=https://hf-mirror.com
! ./hfd.sh IndexTeam/Index-1.9B-32K --local-dir /kaggle/working/Index-1.9B/finetune/model --tool aria2c -x 4
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
from peft import PeftModel
mode_path = " " #模型路径
lora_path = " " #adapter路径
# 加载tokenizer
tokenizer = AutoTokenizer.from_pretrained(mode_path, trust_remote_code=True)
# 加载模型
model = AutoModelForCausalLM.from_pretrained(mode_path,
device_map="auto",
torch_dtype=torch.bfloat16,
trust_remote_code=True).eval()
# 加载lora权重
model = PeftModel.from_pretrained(model, model_id=lora_path)
system = "你是一个轻小说翻译模型，可以流畅通顺地以日本轻小说的风格将日文翻译成简体中文，并联系上下文正确使用人称代词，不擅自添加原文中没有的代词。"
prompt = '日文文本'
message = [
{"role": "system", "content": system},
{"role": "user", "content": prompt}
]
inputs = tokenizer.apply_chat_template(message,
add_generation_prompt=True,
tokenize=True,
return_tensors="pt",
return_dict=True
).to('cuda')
print(tokenizer.decode(inputs.input_ids[0]))
gen_kwargs = {"max_length": 4096, "do_sample": True, "top_k": 1, "repetition_penalty": 1.1}
with torch.no_grad():
outputs = model.generate(**inputs, **gen_kwargs)
outputs = outputs[:, inputs['input_ids'].shape[1]:]
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
