Update README.md

README.md

@@ -45,18 +45,17 @@ This llama model was trained 2x faster with [Unsloth](https://github.com/unsloth
 2. 必要なライブラリを読み込む。
 ```
 import json
-from datasets import load_dataset
+import re
 
 import torch
 from peft import PeftModel
 from tqdm import tqdm
-from transformers import TrainingArguments
-from trl import SFTTrainer
 from unsloth import FastLanguageModel
 ```
-3. ベースのモデル (`llm-jp/llm-jp-3-13b`) を指定する。
+3. ベースのモデル (`llm-jp/llm-jp-3-13b`) と学習した LoRA のアダプタ (Hugging Face の ID) をそれぞれ指定する。
 ```
 model_id = "llm-jp/llm-jp-3-13b"
+adapter_id = ""
 ```
 4. [Hugging Face](https://huggingface.co/settings/tokens) より Write 権限が付与された Access Token を取得し、下記の `HF_TOKEN` で使用する。
 ```
@@ -73,84 +72,11 @@ model, tokenizer = FastLanguageModel.from_pretrained(
     trust_remote_code=True,
 )
 ```
-6. 教師ありファインチューニング (SFT) 用のモデルを作成する。
-```
-model = FastLanguageModel.get_peft_model(
-    model,
-    r=32,
-    target_modules=[
-        "q_proj", "k_proj", "v_proj", "o_proj",
-        "gate_proj", "up_proj", "down_proj",
-    ],
-    lora_alpha=32,
-    lora_dropout=0.05,
-    bias="none",
-    use_gradient_checkpointing="unsloth",
-    random_state=3407,
-    use_rslora=False,
-    loftq_config=None,
-    max_seq_length=max_seq_length,
-)
-```
-7. 学習に用いるデータセットを指定する。ここでは Ichikara Instruction の `ichikara-instruction-003-001-1.json` を使用する。
-    - [LLMのための日本語インストラクションデータ 公開ページ](https://x.gd/Tv24r) より必要事項を記入の上でダウンロードすること。
-    - 事前に Google Colab 上に `ichikara-instruction-003-001-1.json` をアップロードすること。
-```
-dataset = load_dataset("json", data_files="./ichikara-instruction-003-001-1.json")
-```
-8. 学習時のプロンプトフォーマットを定義する。
-```
-prompt = """### 指示
-{}
-### 回答
-{}"""
-```
-9. 学習データをフォーマットを適用し、プロンプトフォーマットに合わせる。
+6. 元のモデル `model` に LoRA のアダプタを統合する。
 ```
-EOS_TOKEN = tokenizer.eos_token
-
-def formatting_prompts_func(examples):
-    input = examples["text"]
-    output = examples["output"]
-    text = prompt.format(input, output) + EOS_TOKEN
-    return { "formatted_text" : text, }
-
-dataset = dataset.map(
-    formatting_prompts_func,
-    num_proc= 4,
-)
-```
-10. `SFTTrainer` を利用して教師ありファインチューニング (SFT) を実行する。
-```
-trainer = SFTTrainer(
-    model = model,
-    tokenizer = tokenizer,
-    train_dataset=dataset["train"],
-    max_seq_length = max_seq_length,
-    dataset_text_field="formatted_text",
-    packing = False,
-    args = TrainingArguments(
-        per_device_train_batch_size = 2,
-        gradient_accumulation_steps = 4,
-        num_train_epochs = 1,
-        logging_steps = 10,
-        warmup_steps = 10,
-        save_steps=100,
-        save_total_limit=2,
-        max_steps=-1,
-        learning_rate = 2e-4,
-        fp16 = not is_bfloat16_supported(),
-        bf16 = is_bfloat16_supported(),
-        group_by_length=True,
-        seed = 3407,
-        output_dir = "outputs",
-        report_to = "none",
-    ),
-)
-
-trainer_stats = trainer.train()
+model = PeftModel.from_pretrained(model, adapter_id, token = HF_TOKEN))
 ```
-11. タスクとなるデータ `ELYZA-tasks-100-TV` を読み込む。
+7. タスクとなるデータ `ELYZA-tasks-100-TV` を読み込む。
     - 事前に Google Colab 上に `elyza-tasks-100-TV_0.jsonl` をアップロードすること。
 ```
 datasets = []
@@ -163,7 +89,7 @@ with open("./elyza-tasks-100-TV_0.jsonl", "r") as f:
             datasets.append(json.loads(item))
             item = ""
 ```
-12. 学習済みモデルを用いてタスクを推論する。 
+8. 学習済みモデルを用いてタスクを推論する。 
 ```
 FastLanguageModel.for_inference(model)
 results = []
@@ -175,7 +101,7 @@ for dt in tqdm(datasets):
     prediction = tokenizer.decode(outputs[0], skip_special_tokens=True).split('\n### 回答')[-1]
     results.append({"task_id": dt["task_id"], "input": input, "output": prediction})
 ```
-13. 結果を jsonl 形式で保存する。
+9. 結果を jsonl 形式で保存する。
 ```
 json_file_id = re.sub(".*/", "", adapter_id)
 with open(f"/content/{json_file_id}_output.jsonl", 'w', encoding='utf-8') as f: