곡κ°λ μμ΄ jailbreak(νμ₯) λ²€μΉλ§ν¬λ€μ νκ΅μ΄λ‘ λ²μΒ·μ μ νκ³ μμ€ κ° μ€λ³΅μ μ κ±°ν΄ νλλ‘ ν΅ν©ν νκ΅μ΄ jailbreak νκ° λ²€μΉλ§ν¬μ
λλ€. νκ΅μ΄ LLMΒ·μμ κ°λκ° μ€μ νμ₯ 곡격μ μΌλ§λ κ²¬κ³ νμ§ μΈ‘μ ν©λλ€.
π» GitHub (μ½λΒ·νμ΄νλΌμΈΒ·λ¦¬ν¬νΈ):
https://github.com/Marker-Inc-Korea/KO-JailBreak
π κ·λͺ¨: 11,441κ° (behavior 10,303 + template 1,138)
μλ‘μ΄ κ³΅κ²© κΈ°λ²μ μ μνμ§ μμ΅λλ€. μ΄λ―Έ κ²μ¦λ κ³΅κ° μμ΄ jailbreak λ°μ΄ν°μ
λ€μ μ¬λ°°ν¬κ° νμ©λλ λΌμ΄μ μ€(MIT/Apache-2.0)μ νν΄ μ λ³νκ³ , νκ΅μ΄λ‘ λ²μΒ·νμ§ κ²μν λ€ μμ€ κ° μ€λ³΅μ μ κ±°ν΄ νκ΅μ΄ νκ²½μμ λ°λ‘ μΈ μ μλ λ¨μΌ λ²€μΉλ§ν¬λ‘ μ¬κ΅¬μ±νμ΅λλ€.
jailbreak λ²€μΉλ§ν¬μ λ μΆμ ν¨κ» λ΄μβ¦ See the full description on the dataset page:
https://huggingface.co/datasets/MarkrAI/ko-jailbreak.
