株式会社APTOはLLMの安全性の性能を改善させるためのデータセットの開発を行いました。
近年、LLMの性能は飛躍的に向上しており、また、LLMの安全性は長らく注目を集めています。例えば、Anthropic社のClaudeでは、不正な入力に対しClaudeを保護する憲法AIが導入されているなど、安全性は世界的にも重要視されています。※1
しかし、今でも課題視されている点もあり、例えばGPT-5においても特定の条件で安全な会話ができなくなるケースも見られています。※2
日本国内でも例外なくLLMの安全性に対して課題感を持ちながらも安全性の向上への取り組みが見られます。
そのような国内のニーズに答えるべく、日本語で構成された安全性向上のためのデータセットを公開いたしました。
データセットの構成として、ターン数がかさむほど安全性が劣化するという点に着目して、マルチターンのデータセットを作成しました。以下のサンプルのようなフォーマットのデータ構成となっております。
{
"question_turn1":… See the full description on the dataset page:
https://huggingface.co/datasets/APTO-001/llm-safety-japanese-multiturn-dataset.
