Views
No views yet

Hva' lav' do nu? - Det vil jeg helst ikke snakke om. - Kom nu! - Jeg træner og snakker med sprogmodeller.. - Fra udlandet? - Jaaaa...
1models:
2 - model: viking/merges/holger3
3 parameters:
4 weight: 0.53
5 density: 0.55
6 epsilon: 0.11
7 - model: viking/merges/holger5
8 parameters:
9 weight: 0.78
10 density: 0.81
11 epsilon: 0.17
12 - model: mpasila/Viking-Magnum-v0.1-7B
13 parameters:
14 weight: 0.88
15 density: 0.91
16 epsilon: 0.07
17 - model: mpasila/Viking-SlimSonnet-v1-7B
18 parameters:
19 weight: 0.83
20 density: 0.75
21 epsilon: 0.11
22merge_method: della_linear
23base_model: LumiOpen/Viking-7B
24parameters:
25 normalize: true
26 int8_mask: true
27 lambda: 1.08
28dtype: bfloat16
29