NexusflowのAthene-70Bの次世代モデル
Athene-V2-Agentを日本語imatrixで量子化したものです。
今回からはQwen2.5-72B-Instructベースに切り替わり、Chat用モデルとAgent用モデルの2種類が用意されるようになりました。
なお、
商用利用はできませんのでご注意ください。
日本語能力を重視し、日本語が多量に含まれる
TFMC/imatrix-dataset-for-japanese-llmデータセットを使用しました。
なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
<|im_start|>system
ここにSystem Promptを書きます。<|im_end|>
<|im_start|>user
ここにMessageを書きます。<|im_end|>
<|im_start|>assistant
