hongkeon commited on
Commit
b84e5a0
·
verified ·
1 Parent(s): 5583477

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +235 -0
README.md ADDED
@@ -0,0 +1,235 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - multilingual
4
+ - af
5
+ - am
6
+ - ar
7
+ - as
8
+ - az
9
+ - be
10
+ - bg
11
+ - bn
12
+ - br
13
+ - bs
14
+ - ca
15
+ - cs
16
+ - cy
17
+ - da
18
+ - de
19
+ - el
20
+ - en
21
+ - eo
22
+ - es
23
+ - et
24
+ - eu
25
+ - fa
26
+ - fi
27
+ - fr
28
+ - fy
29
+ - ga
30
+ - gd
31
+ - gl
32
+ - gu
33
+ - ha
34
+ - he
35
+ - hi
36
+ - hr
37
+ - hu
38
+ - hy
39
+ - id
40
+ - is
41
+ - it
42
+ - ja
43
+ - jv
44
+ - ka
45
+ - kk
46
+ - km
47
+ - kn
48
+ - ko
49
+ - ku
50
+ - ky
51
+ - la
52
+ - lo
53
+ - lt
54
+ - lv
55
+ - mg
56
+ - mk
57
+ - ml
58
+ - mn
59
+ - mr
60
+ - ms
61
+ - my
62
+ - ne
63
+ - nl
64
+ - 'no'
65
+ - om
66
+ - or
67
+ - pa
68
+ - pl
69
+ - ps
70
+ - pt
71
+ - ro
72
+ - ru
73
+ - sa
74
+ - sd
75
+ - si
76
+ - sk
77
+ - sl
78
+ - so
79
+ - sq
80
+ - sr
81
+ - su
82
+ - sv
83
+ - sw
84
+ - ta
85
+ - te
86
+ - th
87
+ - tl
88
+ - tr
89
+ - ug
90
+ - uk
91
+ - ur
92
+ - uz
93
+ - vi
94
+ - xh
95
+ - yi
96
+ - zh
97
+ license: mit
98
+ library_name: sentence-transformers
99
+ tags:
100
+ - korean
101
+ - sentence-transformers
102
+ - transformers
103
+ - multilingual
104
+ - sentence-similarity
105
+ - feature-extraction
106
+ - llama-cpp
107
+ - gguf-my-repo
108
+ base_model: upskyy/e5-large-korean
109
+ datasets: []
110
+ metrics:
111
+ - pearson_cosine
112
+ - spearman_cosine
113
+ - pearson_manhattan
114
+ - spearman_manhattan
115
+ - pearson_euclidean
116
+ - spearman_euclidean
117
+ - pearson_dot
118
+ - spearman_dot
119
+ - pearson_max
120
+ - spearman_max
121
+ widget:
122
+ - source_sentence: 이집트 군대가 형제애를 단속하다
123
+ sentences:
124
+ - 이집트의 군대가 무슬림 형제애를 단속하다
125
+ - 아르헨티나의 기예르모 코리아와 네덜란드의 마틴 버커크의 또 다른 준결승전도 매력적이다.
126
+ - 그것이 사실일 수도 있다고 생각하는 것은 재미있다.
127
+ - source_sentence: 오, 그리고 다시 결혼은 근본적인 인권이라고 주장한다.
128
+ sentences:
129
+ - 특히 결혼은 근본적인 인권이라고 말한 후에.
130
+ - 해변에 있는 흑인과 그의 개...
131
+ - 이란은 핵 프로그램이 평화적인 목적을 위한 것이라고 주장한다
132
+ - source_sentence: 조지 샤힌은 안데르센 컨설팅 사업부에서 일했다.
133
+ sentences:
134
+ - 112건의 퇴거를 예방하거나 미연에 방지하여 151,619달러의 피난처 비용과 그들이 실향민이 되었을 때 가족들이 겪는 혼란을 덜어주었다.
135
+ - 안데르센 컨설팅은 여전히 번창하는 사업이다.
136
+ - 이것은 내가 영국의 아서 안데르센 사업부의 파트너인 짐 와디아를 아서 안데르센 경영진이 선택한 것보다 래리 웨인바흐를 안데르센 월드와이드의
137
+ 경영 파트너로 승계하기 위해 안데르센 컨설팅 사업부(현재의 엑센츄어라고 알려져 있음)의 전 관리 파트너인 조지 샤힌에 대한 지지를 표명했을
138
+ 때 가장 명백했다.
139
+ - source_sentence: 그 표는 주요 경제 정보를 보여준다.
140
+ sentences:
141
+ - 표는 모집단 밀도를 나타냅니다.
142
+ - 아이들이 야외에서 놀고 있다.
143
+ - 표 3은 배출량 감소가 개인 소비와 국내총생산(GDP)의 다른 구성 요소에 미치는 영향을 비교하기 위해 2010년의 주요 거시경제 데이터를
144
+ 요약한 것이다.
145
+ - source_sentence: 안경을 쓴 나이든 남자가 바닥에 누워 갓난아기와 장난감 소방차를 가지고 놀고 있다.
146
+ sentences:
147
+ - 긴 검은 머리와 초록색 탱크톱을 가진 남자가 손가락을 보고 있다.
148
+ - 안경을 쓴 남자는 원숭이이고 아기 원숭이와 놀고 있다.
149
+ - 안경을 쓴 남자가 바닥에 누워 놀고 있다.
150
+ pipeline_tag: sentence-similarity
151
+ model-index:
152
+ - name: upskyy/e5-large-korean
153
+ results:
154
+ - task:
155
+ type: semantic-similarity
156
+ name: Semantic Similarity
157
+ dataset:
158
+ name: sts dev
159
+ type: sts-dev
160
+ metrics:
161
+ - type: pearson_cosine
162
+ value: 0.8710078333363093
163
+ name: Pearson Cosine
164
+ - type: spearman_cosine
165
+ value: 0.8698788475177747
166
+ name: Spearman Cosine
167
+ - type: pearson_manhattan
168
+ value: 0.8598807479137434
169
+ name: Pearson Manhattan
170
+ - type: spearman_manhattan
171
+ value: 0.8682945370063891
172
+ name: Spearman Manhattan
173
+ - type: pearson_euclidean
174
+ value: 0.8596482760879562
175
+ name: Pearson Euclidean
176
+ - type: spearman_euclidean
177
+ value: 0.8679655812613122
178
+ name: Spearman Euclidean
179
+ - type: pearson_dot
180
+ value: 0.8684600033706916
181
+ name: Pearson Dot
182
+ - type: spearman_dot
183
+ value: 0.8668368265035578
184
+ name: Spearman Dot
185
+ - type: pearson_max
186
+ value: 0.8710078333363093
187
+ name: Pearson Max
188
+ - type: spearman_max
189
+ value: 0.8698788475177747
190
+ name: Spearman Max
191
+ ---
192
+
193
+ # hongkeon/e5-large-korean-Q8_0-GGUF
194
+ This model was converted to GGUF format from [`upskyy/e5-large-korean`](https://huggingface.co/upskyy/e5-large-korean) using llama.cpp via the ggml.ai's [GGUF-my-repo](https://huggingface.co/spaces/ggml-org/gguf-my-repo) space.
195
+ Refer to the [original model card](https://huggingface.co/upskyy/e5-large-korean) for more details on the model.
196
+
197
+ ## Use with llama.cpp
198
+ Install llama.cpp through brew (works on Mac and Linux)
199
+
200
+ ```bash
201
+ brew install llama.cpp
202
+
203
+ ```
204
+ Invoke the llama.cpp server or the CLI.
205
+
206
+ ### CLI:
207
+ ```bash
208
+ llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is"
209
+ ```
210
+
211
+ ### Server:
212
+ ```bash
213
+ llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048
214
+ ```
215
+
216
+ Note: You can also use this checkpoint directly through the [usage steps](https://github.com/ggerganov/llama.cpp?tab=readme-ov-file#usage) listed in the Llama.cpp repo as well.
217
+
218
+ Step 1: Clone llama.cpp from GitHub.
219
+ ```
220
+ git clone https://github.com/ggerganov/llama.cpp
221
+ ```
222
+
223
+ Step 2: Move into the llama.cpp folder and build it with `LLAMA_CURL=1` flag along with other hardware-specific flags (for ex: LLAMA_CUDA=1 for Nvidia GPUs on Linux).
224
+ ```
225
+ cd llama.cpp && LLAMA_CURL=1 make
226
+ ```
227
+
228
+ Step 3: Run inference through the main binary.
229
+ ```
230
+ ./llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is"
231
+ ```
232
+ or
233
+ ```
234
+ ./llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048
235
+ ```