|
--- |
|
language: |
|
- multilingual |
|
- af |
|
- am |
|
- ar |
|
- as |
|
- az |
|
- be |
|
- bg |
|
- bn |
|
- br |
|
- bs |
|
- ca |
|
- cs |
|
- cy |
|
- da |
|
- de |
|
- el |
|
- en |
|
- eo |
|
- es |
|
- et |
|
- eu |
|
- fa |
|
- fi |
|
- fr |
|
- fy |
|
- ga |
|
- gd |
|
- gl |
|
- gu |
|
- ha |
|
- he |
|
- hi |
|
- hr |
|
- hu |
|
- hy |
|
- id |
|
- is |
|
- it |
|
- ja |
|
- jv |
|
- ka |
|
- kk |
|
- km |
|
- kn |
|
- ko |
|
- ku |
|
- ky |
|
- la |
|
- lo |
|
- lt |
|
- lv |
|
- mg |
|
- mk |
|
- ml |
|
- mn |
|
- mr |
|
- ms |
|
- my |
|
- ne |
|
- nl |
|
- 'no' |
|
- om |
|
- or |
|
- pa |
|
- pl |
|
- ps |
|
- pt |
|
- ro |
|
- ru |
|
- sa |
|
- sd |
|
- si |
|
- sk |
|
- sl |
|
- so |
|
- sq |
|
- sr |
|
- su |
|
- sv |
|
- sw |
|
- ta |
|
- te |
|
- th |
|
- tl |
|
- tr |
|
- ug |
|
- uk |
|
- ur |
|
- uz |
|
- vi |
|
- xh |
|
- yi |
|
- zh |
|
license: mit |
|
library_name: sentence-transformers |
|
tags: |
|
- korean |
|
- sentence-transformers |
|
- transformers |
|
- multilingual |
|
- sentence-similarity |
|
- feature-extraction |
|
- llama-cpp |
|
- gguf-my-repo |
|
base_model: upskyy/e5-large-korean |
|
datasets: [] |
|
metrics: |
|
- pearson_cosine |
|
- spearman_cosine |
|
- pearson_manhattan |
|
- spearman_manhattan |
|
- pearson_euclidean |
|
- spearman_euclidean |
|
- pearson_dot |
|
- spearman_dot |
|
- pearson_max |
|
- spearman_max |
|
widget: |
|
- source_sentence: 이집트 군대가 형제애를 단속하다 |
|
sentences: |
|
- 이집트의 군대가 무슬림 형제애를 단속하다 |
|
- 아르헨티나의 기예르모 코리아와 네덜란드의 마틴 버커크의 또 다른 준결승전도 매력적이다. |
|
- 그것이 사실일 수도 있다고 생각하는 것은 재미있다. |
|
- source_sentence: 오, 그리고 다시 결혼은 근본적인 인권이라고 주장한다. |
|
sentences: |
|
- 특히 결혼은 근본적인 인권이라고 말한 후에. |
|
- 해변에 있는 흑인과 그의 개... |
|
- 이란은 핵 프로그램이 평화적인 목적을 위한 것이라고 주장한다 |
|
- source_sentence: 조지 샤힌은 안데르센 컨설팅 사업부에서 일했다. |
|
sentences: |
|
- 112건의 퇴거를 예방하거나 미연에 방지하여 151,619달러의 피난처 비용과 그들이 실향민이 되었을 때 가족들이 겪는 혼란을 덜어주었다. |
|
- 안데르센 컨설팅은 여전히 번창하는 사업이다. |
|
- 이것은 내가 영국의 아서 안데르센 사업부의 파트너인 짐 와디아를 아서 안데르센 경영진이 선택한 것보다 래리 웨인바흐를 안데르센 월드와이드의 |
|
경영 파트너로 승계하기 위해 안데르센 컨설팅 사업부(현재의 엑센츄어라고 알려져 있음)의 전 관리 파트너인 조지 샤힌에 대한 지지를 표명했을 |
|
때 가장 명백했다. |
|
- source_sentence: 그 표는 주요 경제 정보를 보여준다. |
|
sentences: |
|
- 표는 모집단 밀도를 나타냅니다. |
|
- 아이들이 야외에서 놀고 있다. |
|
- 표 3은 배출량 감소가 개인 소비와 국내총생산(GDP)의 다른 구성 요소에 미치는 영향을 비교하기 위해 2010년의 주요 거시경제 데이터를 |
|
요약한 것이다. |
|
- source_sentence: 안경을 쓴 나이든 남자가 바닥에 누워 갓난아기와 장난감 소방차를 가지고 놀고 있다. |
|
sentences: |
|
- 긴 검은 머리와 초록색 탱크톱을 가진 남자가 손가락을 보고 있다. |
|
- 안경을 쓴 남자는 원숭이이고 아기 원숭이와 놀고 있다. |
|
- 안경을 쓴 남자가 바닥에 누워 놀고 있다. |
|
pipeline_tag: sentence-similarity |
|
model-index: |
|
- name: upskyy/e5-large-korean |
|
results: |
|
- task: |
|
type: semantic-similarity |
|
name: Semantic Similarity |
|
dataset: |
|
name: sts dev |
|
type: sts-dev |
|
metrics: |
|
- type: pearson_cosine |
|
value: 0.8710078333363093 |
|
name: Pearson Cosine |
|
- type: spearman_cosine |
|
value: 0.8698788475177747 |
|
name: Spearman Cosine |
|
- type: pearson_manhattan |
|
value: 0.8598807479137434 |
|
name: Pearson Manhattan |
|
- type: spearman_manhattan |
|
value: 0.8682945370063891 |
|
name: Spearman Manhattan |
|
- type: pearson_euclidean |
|
value: 0.8596482760879562 |
|
name: Pearson Euclidean |
|
- type: spearman_euclidean |
|
value: 0.8679655812613122 |
|
name: Spearman Euclidean |
|
- type: pearson_dot |
|
value: 0.8684600033706916 |
|
name: Pearson Dot |
|
- type: spearman_dot |
|
value: 0.8668368265035578 |
|
name: Spearman Dot |
|
- type: pearson_max |
|
value: 0.8710078333363093 |
|
name: Pearson Max |
|
- type: spearman_max |
|
value: 0.8698788475177747 |
|
name: Spearman Max |
|
--- |
|
|
|
# hongkeon/e5-large-korean-Q8_0-GGUF |
|
This model was converted to GGUF format from [`upskyy/e5-large-korean`](https://huggingface.co/upskyy/e5-large-korean) using llama.cpp via the ggml.ai's [GGUF-my-repo](https://huggingface.co/spaces/ggml-org/gguf-my-repo) space. |
|
Refer to the [original model card](https://huggingface.co/upskyy/e5-large-korean) for more details on the model. |
|
|
|
## Use with llama.cpp |
|
Install llama.cpp through brew (works on Mac and Linux) |
|
|
|
```bash |
|
brew install llama.cpp |
|
|
|
``` |
|
Invoke the llama.cpp server or the CLI. |
|
|
|
### CLI: |
|
```bash |
|
llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is" |
|
``` |
|
|
|
### Server: |
|
```bash |
|
llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048 |
|
``` |
|
|
|
Note: You can also use this checkpoint directly through the [usage steps](https://github.com/ggerganov/llama.cpp?tab=readme-ov-file#usage) listed in the Llama.cpp repo as well. |
|
|
|
Step 1: Clone llama.cpp from GitHub. |
|
``` |
|
git clone https://github.com/ggerganov/llama.cpp |
|
``` |
|
|
|
Step 2: Move into the llama.cpp folder and build it with `LLAMA_CURL=1` flag along with other hardware-specific flags (for ex: LLAMA_CUDA=1 for Nvidia GPUs on Linux). |
|
``` |
|
cd llama.cpp && LLAMA_CURL=1 make |
|
``` |
|
|
|
Step 3: Run inference through the main binary. |
|
``` |
|
./llama-cli --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -p "The meaning to life and the universe is" |
|
``` |
|
or |
|
``` |
|
./llama-server --hf-repo hongkeon/e5-large-korean-Q8_0-GGUF --hf-file e5-large-korean-q8_0.gguf -c 2048 |
|
``` |
|
|
