Заходит в бар пьяный мужик, а тащит за диваном.
Мужик:
- Бармен, почему ты так долго не видел вон тот джип?
- За что?
- Хм.. Я так и знал, ты бы послал ее в этой бочке,
когда я ем все в вашем теле, ты меня ругаешь, а ты - нет..
Пример 2
Prompt: «Сидят два»
Сидят два зека, один жирный, второй спрашивает:
- Где плачешь?
- А я плачу...
- Как он умеет?
- Еще нет
Пример 3
Prompt: «Учительница спрашивает»
Учительница спрашивает учеников:
- Вовочка, назови пожалуйста, учителя: "Скока-Петя,
дядя, ты отдал 250 литров пять лет, а я - 10".
- У меня 150. Пол - это 17.
- А что, не знает, что такое 20-летняя сестра?
- Не знаю.
- А какая разница?
- По-русски "газ" и "Родина".
- Я тебе с ней расскажу, тормози.
Использование
python
1import torch
23# Определи классы из ноутбука перед использованием45tokenizer = ByteLevelBPETokenizer.from_pretrained("Kass-sandra/llm-course-hw1-mla-rope")6model = TransformerForCausalLM.from_pretrained("Kass-sandra/llm-course-hw1-mla-rope")7model.eval()89prompt ="Заходит в бар"10input_ids = torch.tensor(tokenizer.encode(prompt)[:-1])[None,:]11output = model.generate(12 input_ids,13 max_new_tokens=200,14 eos_token_id=tokenizer.eos_token_id,15 do_sample=True,16 top_k=40,17 temperature=0.8,18)19print(tokenizer.decode(output[0].tolist()))
