Update README.md
Browse files
README.md
CHANGED
|
@@ -51,6 +51,8 @@ Escreva uma resposta que complete adequadamente o pedido.
|
|
| 51 |
### instrução: aja como um professor de matemática e me explique porque 2 + 2 = 4.
|
| 52 |
[/INST]"""], return_tensors="pt")
|
| 53 |
|
|
|
|
|
|
|
| 54 |
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
| 55 |
_ = model.generate(**inputs, streamer=streamer, max_new_tokens=200)
|
| 56 |
|
|
|
|
| 51 |
### instrução: aja como um professor de matemática e me explique porque 2 + 2 = 4.
|
| 52 |
[/INST]"""], return_tensors="pt")
|
| 53 |
|
| 54 |
+
inputs.to(model.device)
|
| 55 |
+
|
| 56 |
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
| 57 |
_ = model.generate(**inputs, streamer=streamer, max_new_tokens=200)
|
| 58 |
|