Views
No views yet
meta-llama/Meta-Llama-3.1-8B-Instruct (via mlx-community/Meta-Llama-3.1-8B-Instruct-4bit)1from mlx_lm import load, generate
2
3model, tokenizer = load("wellsondahostaraguaia/consultas-medica-saude-mulher")
4prompt = "<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\nVocê é ConsultasMedica, assistente clínico especializado em saúde da mulher.<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nInstrução: Classificar risco\n\nPaciente: Dor pélvica aguda e febre<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n"
5response = generate(model, tokenizer, prompt=prompt, max_tokens=200)
6print(response)