Vastaukset Lapuan kaupungin päätöspöytäkirjoihin liittyviin kysymyksiin, kun syötetään RAG-konteksti (BM25/Qdrant).
Tiivistelmät ja luokittelu (päätöstyypit, vastuuhenkilö, vaikutukset).
Downstream Use
Osana Lapua-RAG -palvelua tai muuta sovellusta, joka hakee asiakirjakontekstin ja syöttää sen mallille.
Out-of-Scope Use
Ei oikeudelliseksi neuvonnaksi.
Ei muihin kuntiin tai mielipide-/small-talk -käyttöön ilman uutta hienosäätöä.
Ei faktojen muistivarastoksi ilman RAG:ia.
Bias, Risks, and Limitations
Lapua-spesifi kieli ja sisältö; ei yleisty muihin kuntiin.
Voi tuottaa virheitä, jos kontekstia ei anneta.
Tarkista aina alkuperäinen pöytäkirja ennen päätöksentekoa.
Recommendations
Käytä aina RAG-kontekstia.
Näytä käyttäjälle lähdesitaatti (§, kokous, pvm).
Merkitse epävarmuus, jos konteksti puuttuu tai on ristiriitainen.
How to Get Started with the Model
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-1.5B-Instruct")
model = PeftModel.from_pretrained(base, "CCG-FAKTUM/lapua-llm")
tok = AutoTokenizer.from_pretrained("CCG-FAKTUM/lapua-llm")
prompt = (
"System: Olet Lapuan päätöstekstiasiantuntija. Vastaa muodolla: "
"Johtopäätös → Perustelut → Lähteet (§, kokous, pvm).\n"
"User: Konteksti:\n"
"{pykala_teksti}\n"
"Kysymys: Mitä päätettiin § 78?"
)
inputs = tok(prompt, return_tensors="pt")
out = model.generate(**inputs, max_new_tokens=200)
print(tok.decode(out[0], skip_special_tokens=True))## Training Details
Training Data
Lähde: Lapuan kaupungin pöytäkirjat (Docling-parse).