Update README.md

README.md

@@ -27,13 +27,15 @@ Hugging Faceにアダプタをアップロードしてあることが前提と
 
 ※本コードはGoogle Colabでの動作を想定しています。
 
+```
 # 必要なライブラリをインストール
 %%capture
 !pip install unsloth
 !pip uninstall unsloth -y && pip install --upgrade --no-cache-dir "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
 !pip install -U torch
 !pip install -U peft
-
+```
+```
 # 必要なライブラリを読み込み
 from unsloth import FastLanguageModel
 from peft import PeftModel
@@ -41,11 +43,13 @@ import torch
 import json
 from tqdm import tqdm
 import re
-
+```
+```
 # ベースとなるモデルと学習したLoRAのアダプタ（Hugging FaceのIDを指定）。
 model_id = "llm-jp/llm-jp-3-13b"
 adapter_id = "tokushi"
-
+```
+```
 # Hugging Face Token を指定。
 # 下記の URL から Hugging Face Token を取得できますので下記の HF_TOKEN に入れてください。
 # https://huggingface.co/settings/tokens
@@ -61,9 +65,11 @@ model, tokenizer = FastLanguageModel.from_pretrained(
     load_in_4bit=load_in_4bit,
     trust_remote_code=True,
 )
-
+```
+```
 adapter_id = "tokushi/llm-jp-3-13b-it_lora"
-
+```
+```
 # 元のモデルにLoRAのアダプタを統合。
 model = PeftModel.from_pretrained(model, adapter_id, token = HF_TOKEN)
 
@@ -79,8 +85,9 @@ with open("/content/elyza-tasks-100-TV_0.jsonl", "r") as f:
         datasets.append(json.loads(item))
         item = ""
 
+```
+```
 # モデルを用いてタスクの推論。
-
 # 推論するためにモデルのモードを変更
 FastLanguageModel.for_inference(model)
 
@@ -96,12 +103,13 @@ for dt in tqdm(datasets):
   prediction = tokenizer.decode(outputs[0], skip_special_tokens=True).split('\n### 回答')[-1]
 
   results.append({"task_id": dt["task_id"], "input": input, "output": prediction})
-
+```
+```
 # 結果をjsonlで保存。
-
 # ここではadapter_idを元にファイル名を決定しているが、ファイル名は任意で問題なし。
 json_file_id = re.sub(".*/", "", adapter_id)
 with open(f"/content/{json_file_id}_output.jsonl", 'w', encoding='utf-8') as f:
     for result in results:
         json.dump(result, f, ensure_ascii=False)
         f.write('\n')
+```