比较新手的问题请教

#2
by willber - opened

我用ollama部署的,但是指令的不是很听话。
是不是因为训练的底模不含-instruct?
https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407
https://huggingface.co/unsloth/Mistral-Nemo-Base-2407
还是说我的modelfile写的不太对

PARAMETER num_ctx 12000
parameter stop "<|im_start|>"
parameter stop "<|im_end|>"
TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>"""

接触没多久,不是很懂,虚心请教

Sign up or log in to comment