能否提供 GGUF 格式的模型
#2
by
HuanLin
- opened
如题，尝试使用 llama.cpp 导出，但是遇到了无法识别 tokenizer 的问题，貌似也没有现成的 tokenizer 可以替换
https://huggingface.co/HuanLin/Yuan-embedding-1.0-GGUF
貌似已经成功，但是处理部分文本的时候报错（用 conan-embedding-v1 也出现这个问题了）
使用 sentence_transformers 不知道会不会出现这样的问题（我跑不起来，依赖问题）