Saxo
/

Linkbricks-Horizon-AI-Japanese-Advanced-70B

@@ -38,6 +38,18 @@ pipeline_tag: text-generation
 <img src="http://www.linkbricks.com/wp-content/uploads/2024/11/fulllogo.png" />
 </div>
 AI 와 빅데이터 분석 전문 기업인 Linkbricks의 데이터사이언티스트인 지윤성(Saxo) 이사가 <br>
 Hermes-3-Llama-3.1-70B 베이스모델을 사용해서 H100-80G 8개를 통해 약 20%정도의 파라미터를 일본어 CPT(Continued-Pretraining)->SFT->DPO 한 일본어 강화 언어 모델<br>
@@ -45,10 +57,10 @@ Hermes-3-Llama-3.1-70B 베이스모델을 사용해서 H100-80G 8개를 통해
 -토크나이저는 단어 확장 없이 베이스 모델 그대로 사용<br>
 -고객 리뷰나 소셜 포스팅 고차원 분석 및 코딩과 작문, 수학, 논리판단 등이 강화된 모델<br>
 -128k-Context Window<br>
--한글 Function Call 및 Tool Calling 지원<br>
 -128k-Context Window<br>
 -Deepspeed Stage=3, rslora 및 BAdam Layer Mode 사용 <br>
-<br>
 <br><br>
 Finetuned by Mr. Yunsung Ji (Saxo), a data scientist at Linkbricks, a company specializing in AI and big data analytics <br>
@@ -56,6 +68,7 @@ about 20% of total parameters Japanese CPT(Continued-Pretraining)->SFT->DPO trai
 It is a model that has been trained to handle Japanese-Korean-Chinese-English cross-training data and 10M korean news corpus and logic judgment data for various tasks to enable cross-fertilization processing and complex Korean logic & math problems. <br>
 -Tokenizer uses the base model without word expansion<br>
 -Models enhanced with high-dimensional analysis of customer reviews and social posts, as well as coding, writing, math and decision making<br>
 -128k-Context Window<br>
 -Deepspeed Stage=3, use rslora and BAdam Layer Mode<br>
 <br><br>

 <img src="http://www.linkbricks.com/wp-content/uploads/2024/11/fulllogo.png" />
 </div>
+AIとビッグデータ分析の専門企業であるLinkbricksのデータサイエンティストであるジ・ユンソン(Saxo)ディレクターが <br>
+Hermes-3-Llama-3.1-70Bベースモデルを使用し、H100-80G 8個を通じて約20%程度のパラメータを日本語CPT(Continued-Pretraining)->SFT->DPOした日本語強化言語モデル。<br>
+2千万件の日本ニュース及びウィキコーパスを基準に、様々なタスク別の日本語・韓国語・中国語・英語クロス学習データと数学及び論理判断データを通じて、日中韓英言語クロス補強処理と複雑な論理問題にも対応できるように訓練したモデルです。
+-トークナイザーは、単語拡張なしでベースモデルのまま使用します。<br>
+-カスタマーレビューやソーシャル投稿の高次元分析及びコーディングとライティング、数学、論理判断などが強化されたモデル。<br>
+-128k-Context Window<br>
+-Function Call<br>
+-128k-Context Window<br>
+-Deepspeed Stage=3、rslora及びBAdam Layer Modeを使用 <br>
+-「transformers_version」: 「4.46.3」<br>
+<br><br>
 AI 와 빅데이터 분석 전문 기업인 Linkbricks의 데이터사이언티스트인 지윤성(Saxo) 이사가 <br>
 Hermes-3-Llama-3.1-70B 베이스모델을 사용해서 H100-80G 8개를 통해 약 20%정도의 파라미터를 일본어 CPT(Continued-Pretraining)->SFT->DPO 한 일본어 강화 언어 모델<br>
 -토크나이저는 단어 확장 없이 베이스 모델 그대로 사용<br>
 -고객 리뷰나 소셜 포스팅 고차원 분석 및 코딩과 작문, 수학, 논리판단 등이 강화된 모델<br>
 -128k-Context Window<br>
+-Function Call 및 Tool Calling 지원<br>
 -128k-Context Window<br>
 -Deepspeed Stage=3, rslora 및 BAdam Layer Mode 사용 <br>
+-"transformers_version": "4.46.3"<br>
 <br><br>
 Finetuned by Mr. Yunsung Ji (Saxo), a data scientist at Linkbricks, a company specializing in AI and big data analytics <br>
 It is a model that has been trained to handle Japanese-Korean-Chinese-English cross-training data and 10M korean news corpus and logic judgment data for various tasks to enable cross-fertilization processing and complex Korean logic & math problems. <br>
 -Tokenizer uses the base model without word expansion<br>
 -Models enhanced with high-dimensional analysis of customer reviews and social posts, as well as coding, writing, math and decision making<br>
+-Function Calling<br>
 -128k-Context Window<br>
 -Deepspeed Stage=3, use rslora and BAdam Layer Mode<br>
 <br><br>