Upload README.md with huggingface_hub
Browse files
README.md
ADDED
@@ -0,0 +1,235 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
language:
|
3 |
+
- multilingual
|
4 |
+
- af
|
5 |
+
- am
|
6 |
+
- ar
|
7 |
+
- as
|
8 |
+
- az
|
9 |
+
- be
|
10 |
+
- bg
|
11 |
+
- bn
|
12 |
+
- br
|
13 |
+
- bs
|
14 |
+
- ca
|
15 |
+
- cs
|
16 |
+
- cy
|
17 |
+
- da
|
18 |
+
- de
|
19 |
+
- el
|
20 |
+
- en
|
21 |
+
- eo
|
22 |
+
- es
|
23 |
+
- et
|
24 |
+
- eu
|
25 |
+
- fa
|
26 |
+
- fi
|
27 |
+
- fr
|
28 |
+
- fy
|
29 |
+
- ga
|
30 |
+
- gd
|
31 |
+
- gl
|
32 |
+
- gu
|
33 |
+
- ha
|
34 |
+
- he
|
35 |
+
- hi
|
36 |
+
- hr
|
37 |
+
- hu
|
38 |
+
- hy
|
39 |
+
- id
|
40 |
+
- is
|
41 |
+
- it
|
42 |
+
- ja
|
43 |
+
- jv
|
44 |
+
- ka
|
45 |
+
- kk
|
46 |
+
- km
|
47 |
+
- kn
|
48 |
+
- ko
|
49 |
+
- ku
|
50 |
+
- ky
|
51 |
+
- la
|
52 |
+
- lo
|
53 |
+
- lt
|
54 |
+
- lv
|
55 |
+
- mg
|
56 |
+
- mk
|
57 |
+
- ml
|
58 |
+
- mn
|
59 |
+
- mr
|
60 |
+
- ms
|
61 |
+
- my
|
62 |
+
- ne
|
63 |
+
- nl
|
64 |
+
- 'no'
|
65 |
+
- om
|
66 |
+
- or
|
67 |
+
- pa
|
68 |
+
- pl
|
69 |
+
- ps
|
70 |
+
- pt
|
71 |
+
- ro
|
72 |
+
- ru
|
73 |
+
- sa
|
74 |
+
- sd
|
75 |
+
- si
|
76 |
+
- sk
|
77 |
+
- sl
|
78 |
+
- so
|
79 |
+
- sq
|
80 |
+
- sr
|
81 |
+
- su
|
82 |
+
- sv
|
83 |
+
- sw
|
84 |
+
- ta
|
85 |
+
- te
|
86 |
+
- th
|
87 |
+
- tl
|
88 |
+
- tr
|
89 |
+
- ug
|
90 |
+
- uk
|
91 |
+
- ur
|
92 |
+
- uz
|
93 |
+
- vi
|
94 |
+
- xh
|
95 |
+
- yi
|
96 |
+
- zh
|
97 |
+
license: mit
|
98 |
+
library_name: sentence-transformers
|
99 |
+
tags:
|
100 |
+
- korean
|
101 |
+
- sentence-transformers
|
102 |
+
- transformers
|
103 |
+
- multilingual
|
104 |
+
- sentence-similarity
|
105 |
+
- feature-extraction
|
106 |
+
- llama-cpp
|
107 |
+
- gguf-my-repo
|
108 |
+
base_model: upskyy/e5-large-korean
|
109 |
+
datasets: []
|
110 |
+
metrics:
|
111 |
+
- pearson_cosine
|
112 |
+
- spearman_cosine
|
113 |
+
- pearson_manhattan
|
114 |
+
- spearman_manhattan
|
115 |
+
- pearson_euclidean
|
116 |
+
- spearman_euclidean
|
117 |
+
- pearson_dot
|
118 |
+
- spearman_dot
|
119 |
+
- pearson_max
|
120 |
+
- spearman_max
|
121 |
+
widget:
|
122 |
+
- source_sentence: 이집트 군대가 형제애를 단속하다
|
123 |
+
sentences:
|
124 |
+
- 이집트의 군대가 무슬림 형제애를 단속하다
|
125 |
+
- 아르헨티나의 기예르모 코리아와 네덜란드의 마틴 버커크의 또 다른 준결승전도 매력적이다.
|
126 |
+
- 그것이 사실일 수도 있다고 생각하는 것은 재미있다.
|
127 |
+
- source_sentence: 오, 그리고 다시 결혼은 근본적인 인권이라고 주장한다.
|
128 |
+
sentences:
|
129 |
+
- 특히 결혼은 근본적인 인권이라고 말한 후에.
|
130 |
+
- 해변에 있는 흑인과 그의 개...
|
131 |
+
- 이란은 핵 프로그램이 평화적인 목적을 위한 것이라고 주장한다
|
132 |
+
- source_sentence: 조지 샤힌은 안데르센 컨설팅 사업부에서 일했다.
|
133 |
+
sentences:
|
134 |
+
- 112건의 퇴거를 예방하거나 미연에 방지하여 151,619달러의 피난처 비용과 그들이 실향민이 되었을 때 가족들이 겪는 혼란을 덜어주었다.
|
135 |
+
- 안데르센 컨설팅은 여전히 번창하는 사업이다.
|
136 |
+
- 이것은 내가 영국의 아서 안데르센 사업부의 파트너인 짐 와디아를 아서 안데르센 경영진이 선택한 것보다 래리 웨인바흐를 안데르센 월드와이드의
|
137 |
+
경영 파트너로 승계하기 위해 안데르센 컨설팅 사업부(현재의 엑센츄어라고 알려져 있음)의 전 관리 파트너인 조지 샤힌에 대한 지지를 표명했을
|
138 |
+
때 가장 명백했다.
|
139 |
+
- source_sentence: 그 표는 주요 경제 정보를 보여준다.
|
140 |
+
sentences:
|
141 |
+
- 표는 모집단 밀도를 나타냅니다.
|
142 |
+
- 아이들이 야외에서 놀고 있다.
|
143 |
+
- 표 3은 배출량 감소가 개인 소비와 국내총생산(GDP)의 다른 구성 요소에 미치는 영향을 비교하기 위해 2010년의 주요 거시경제 데이터를
|
144 |
+
요약한 것이다.
|
145 |
+
- source_sentence: 안경을 쓴 나이든 남자가 바닥에 누워 갓난아기와 장난감 소방차를 가지고 놀고 있다.
|
146 |
+
sentences:
|
147 |
+
- 긴 검은 머리와 초록색 탱크톱을 가진 남자가 손가락을 보고 있다.
|
148 |
+
- 안경을 쓴 남자는 원숭이이고 아기 원숭이와 놀고 있다.
|
149 |
+
- 안경을 쓴 남자가 바닥에 누워 놀고 있다.
|
150 |
+
pipeline_tag: sentence-similarity
|
151 |
+
model-index:
|
152 |
+
- name: upskyy/e5-large-korean
|
153 |
+
results:
|
154 |
+
- task:
|
155 |
+
type: semantic-similarity
|
156 |
+
name: Semantic Similarity
|
157 |
+
dataset:
|
158 |
+
name: sts dev
|
159 |
+
type: sts-dev
|
160 |
+
metrics:
|
161 |
+
- type: pearson_cosine
|
162 |
+
value: 0.8710078333363093
|
163 |
+
name: Pearson Cosine
|
164 |
+
- type: spearman_cosine
|
165 |
+
value: 0.8698788475177747
|
166 |
+
name: Spearman Cosine
|
167 |
+
- type: pearson_manhattan
|
168 |
+
value: 0.8598807479137434
|
169 |
+
name: Pearson Manhattan
|
170 |
+
- type: spearman_manhattan
|
171 |
+
value: 0.8682945370063891
|
172 |
+
name: Spearman Manhattan
|
173 |
+
- type: pearson_euclidean
|
174 |
+
value: 0.8596482760879562
|
175 |
+
name: Pearson Euclidean
|
176 |
+
- type: spearman_euclidean
|
177 |
+
value: 0.8679655812613122
|
178 |
+
name: Spearman Euclidean
|
179 |
+
- type: pearson_dot
|
180 |
+
value: 0.8684600033706916
|
181 |
+
name: Pearson Dot
|
182 |
+
- type: spearman_dot
|
183 |
+
value: 0.8668368265035578
|
184 |
+
name: Spearman Dot
|
185 |
+
- type: pearson_max
|
186 |
+
value: 0.8710078333363093
|
187 |
+
name: Pearson Max
|
188 |
+
- type: spearman_max
|
189 |
+
value: 0.8698788475177747
|
190 |
+
name: Spearman Max
|
191 |
+
---
|
192 |
+
|
193 |
+
# hongkeon/e5-large-korean-Q8_0-GGUF
|
194 |
+
This model was converted to GGUF format from [`upskyy/e5-large-korean`](https://huggingface.co/upskyy/e5-large-korean) using llama.cpp via the ggml.ai's [GGUF-my-repo](https://huggingface.co/spaces/ggml-org/gguf-my-repo) space.
|
195 |
+
Refer to the [original model card](https://huggingface.co/upskyy/e5-large-korean) for more details on the model.
|
196 |
+
|
197 |
+
## Use with llama.cpp
|
198 |
+
Install llama.cpp through brew (works on Mac and Linux)
|
199 |
+
|
200 |
+
```bash
|
201 |
+
brew install llama.cpp
|
202 |
+
|
203 |
+
```
|
204 |
+
Invoke the llama.cpp server or the CLI.
|
205 |
+
|
206 |
+
### CLI:
|
207 |
+
```bash
|
208 |
+
llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is"
|
209 |
+
```
|
210 |
+
|
211 |
+
### Server:
|
212 |
+
```bash
|
213 |
+
llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048
|
214 |
+
```
|
215 |
+
|
216 |
+
Note: You can also use this checkpoint directly through the [usage steps](https://github.com/ggerganov/llama.cpp?tab=readme-ov-file#usage) listed in the Llama.cpp repo as well.
|
217 |
+
|
218 |
+
Step 1: Clone llama.cpp from GitHub.
|
219 |
+
```
|
220 |
+
git clone https://github.com/ggerganov/llama.cpp
|
221 |
+
```
|
222 |
+
|
223 |
+
Step 2: Move into the llama.cpp folder and build it with `LLAMA_CURL=1` flag along with other hardware-specific flags (for ex: LLAMA_CUDA=1 for Nvidia GPUs on Linux).
|
224 |
+
```
|
225 |
+
cd llama.cpp && LLAMA_CURL=1 make
|
226 |
+
```
|
227 |
+
|
228 |
+
Step 3: Run inference through the main binary.
|
229 |
+
```
|
230 |
+
./llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is"
|
231 |
+
```
|
232 |
+
or
|
233 |
+
```
|
234 |
+
./llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048
|
235 |
+
```
|