Update README.md

README.md

@@ -27,16 +27,16 @@ Hugging Faceにアダプタをアップロードしてあることが前提と
 
 ※本コードはGoogle Colabでの動作を想定しています。
 
-```
 # 必要なライブラリをインストール
+```
 %%capture
 !pip install unsloth
 !pip uninstall unsloth -y && pip install --upgrade --no-cache-dir "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
 !pip install -U torch
 !pip install -U peft
 ```
-```
 # 必要なライブラリを読み込み
+```
 from unsloth import FastLanguageModel
 from peft import PeftModel
 import torch
@@ -44,15 +44,13 @@ import json
 from tqdm import tqdm
 import re
 ```
-```
 # ベースとなるモデルと学習したLoRAのアダプタ（Hugging FaceのIDを指定）。
-model_id = "llm-jp/llm-jp-3-13b"
-adapter_id = "tokushi"
 ```
+model_id = "llm-jp/llm-jp-3-13b"
+adapter_id = "tokushi/llm-jp-3-13b-it_lora"
 ```
 # Hugging Face Token を指定。
-# 下記の URL から Hugging Face Token を取得できますので下記の HF_TOKEN に入れてください。
-# https://huggingface.co/settings/tokens
+```
 HF_TOKEN = "Hugging Face Tokenを入力"
 
 # unslothのFastLanguageModelで元のモデルをロード。
@@ -66,15 +64,13 @@ model, tokenizer = FastLanguageModel.from_pretrained(
     trust_remote_code=True,
 )
 ```
+# 元のモデルにLoRAのアダプタを統合。
 ```
-adapter_id = "tokushi/llm-jp-3-13b-it_lora"
+model = PeftModel.from_pretrained(model, adapter_id, token = HF_TOKEN)
 ```
+# 入力データの準備
+./elyza-tasks-100-TV_0.jsonlというファイルからデータセットをロードします。
 ```
-# 元のモデルにLoRAのアダプタを統合。
-model = PeftModel.from_pretrained(model, adapter_id, token = HF_TOKEN)
-
-# タスクとなるデータの読み込み。
-# 事前にデータをアップロードしてください。
 datasets = []
 with open("/content/elyza-tasks-100-TV_0.jsonl", "r") as f:
     item = ""
@@ -85,10 +81,9 @@ with open("/content/elyza-tasks-100-TV_0.jsonl", "r") as f:
         datasets.append(json.loads(item))
         item = ""
 
-```
 ```
 # モデルを用いてタスクの推論。
-# 推論するためにモデルのモードを変更
+```
 FastLanguageModel.for_inference(model)
 
 results = []
@@ -104,9 +99,9 @@ for dt in tqdm(datasets):
 
   results.append({"task_id": dt["task_id"], "input": input, "output": prediction})
 ```
-```
 # 結果をjsonlで保存。
-# ここではadapter_idを元にファイル名を決定しているが、ファイル名は任意で問題なし。
+最後に、adapter_idをベースにしたファイル名でJSONL形式の出力ファイルを保存します。
+```
 json_file_id = re.sub(".*/", "", adapter_id)
 with open(f"/content/{json_file_id}_output.jsonl", 'w', encoding='utf-8') as f:
     for result in results: