Update app.py

app.py

@@ -11,7 +11,8 @@ torch_device = "cuda" if torch.cuda.is_available() else "cpu"
 print("Running on device:", torch_device)
 print("CPU threads:", torch.get_num_threads())
 
-peft_model_id = "ldhldh/polyglot-ko-1.3b_lora_big_tern_30kstep" 
+peft_model_id = "ldhldh/polyglot-ko-1.3b_lora_big_tern_20kstep" 
+# 20k or 30k 
 #18k > 상대의 말까지 하는 이슈가 있음 
 #8k > 약간 아쉬운가? 
 config = PeftConfig.from_pretrained(peft_model_id)