こちらのデータは、「elyza/ELYZA-Thinking-1.0-Qwen-32B」をmagpie手法を用いて作成したデータセットです。
※合計52,138件のデータセット
※OpenAI Chatテンプレート形式で作成
Elyza社が元モデルのQwen2.5-32Bをチューニングしただけあり、比較的合成データの中では質の高い部類かと思います。
ここから、アノテーションを加えたり、各々でご自由に加工ください。
!pip install bitsandbytes>=0.45.3
!pip install tokenizers==0.21.0
!pip install --upgrade pyzmq
!pip install vllm==0.8.4
import json
import logging
import torch
from tqdm.auto import tqdm
from vllm import LLM, SamplingParams