Views
No views yet
1{
2 "model": "wangzihaogithub/job-educational-parser",
3 "messages": [
4 {
5 "role": "system",
6 "content": "从岗位中提取学历"
7 },
8 {
9 "role": "user",
10 "content": "游戏美术实习-原画类(26届提供转正)游戏类型&风格:欧美卡通 休闲类游戏 工作职责: 1. 配合各项目组美术需求(包括不限于原画,UI和动画类需求)的落地和整合; 2. 具有比较扎实的手绘能力,能够独立完成运营活动所需的美术设计需求; 3. 通过对主流AI产品的学习,总结提示词使用技巧,通过具体案例验证方法的有效性,协助团队建立规范化的AI应用方法论和完善AI工作流程。 岗位要求: 1.面向游戏/动画/数媒/雕塑/美术/工业设计等设计相关专业; 2.本科及以上学历; 3.2026年应届毕业生; 4.有优秀的绘画基础,会用手绘板,熟练掌握PS等2D设计软件 加分项: 1.美术院校相关专业者优先; 2.爱玩游戏者优先; 3.有相关美术设计实习或者工作经验者优先考虑; 4.性格乐观爽朗,善于表达。"
11 }
12 ],
13 "max_tokens": 32
14}1from transformers import AutoModelForCausalLM, AutoTokenizer
2import torch
3
4model_name = "wangzihaogithub/job-educational-parser"
5
6# 加载分词器和模型
7tokenizer = AutoTokenizer.from_pretrained(model_name,
8 cache_dir="./cache")
9model = AutoModelForCausalLM.from_pretrained(
10 model_name,
11 torch_dtype="auto",
12 device_map="auto",
13 cache_dir="./cache"
14)
15
16print('model load success')
17
18messages = [
19 {"role": "system", "content": '从岗位中提取学历'},
20 {"role": "user", "content": "游戏美术实习-原画类(26届提供转正)游戏类型&风格:欧美卡通 休闲类游戏 工作职责: 1. 配合各项目组美术需求(包括不限于原画,UI和动画类需求)的落地和整合; 2. 具有比较扎实的手绘能力,能够独立完成运营活动所需的美术设计需求; 3. 通过对主流AI产品的学习,总结提示词使用技巧,通过具体案例验证方法的有效性,协助团队建立规范化的AI应用方法论和完善AI工作流程。 岗位要求: 1.面向游戏/动画/数媒/雕塑/美术/工业设计等设计相关专业; 2.本科及以上学历; 3.2026年应届毕业生; 4.有优秀的绘画基础,会用手绘板,熟练掌握PS等2D设计软件 加分项: 1.美术院校相关专业者优先; 2.爱玩游戏者优先; 3.有相关美术设计实习或者工作经验者优先考虑; 4.性格乐观爽朗,善于表达。"}
21]
22
23text = tokenizer.apply_chat_template(
24 messages,
25 tokenize=False,
26 add_generation_prompt=True,
27 enable_thinking=False
28)
29model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
30
31# 生成推理结果(关闭梯度计算)
32with torch.inference_mode(), torch.amp.autocast('cuda'):
33 generated_ids = model.generate(
34 **model_inputs,
35 max_new_tokens=32,# 输出结果为学历,不需要太多
36 eos_token_id=tokenizer.eos_token_id,
37 pad_token_id=tokenizer.pad_token_id,
38 use_cache=True,
39 do_sample=False, # 是否采样(False 为 greedy decode)
40 temperature=None, # 关闭
41 top_p=None,# 关闭
42 top_k=None# 关闭
43 )
44output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
45
46# parsing thinking content
47try:
48 # rindex finding 151668 (</think>)
49 index = len(output_ids) - output_ids[::-1].index(151668)
50except ValueError:
51 index = 0
52
53content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")
54
55print(content)1@misc{vonwerra2022trl,
2 title = {{TRL: Transformer Reinforcement Learning}},
3 author = {Leandro von Werra and Younes Belkada and Lewis Tunstall and Edward Beeching and Tristan Thrush and Nathan Lambert and Shengyi Huang and Kashif Rasul and Quentin Gallou{\'e}dec},
4 year = 2020,
5 journal = {GitHub repository},
6 publisher = {GitHub},
7 howpublished = {\url{https://github.com/huggingface/trl}}
8}