Update app.py

app.py

@@ -1,4 +1,4 @@
-# Імпартуем патрэбныя модулі
+import spaces
 import gradio as gr
 import torch
 from huggingface_hub import hf_hub_download 
@@ -22,9 +22,6 @@ from underthesea import sent_tokenize
 from TTS.tts.configs.xtts_config import XttsConfig
 from TTS.tts.models.xtts import Xtts
 
-# Вызначэнне прылады (толькі CPU)
-device = "cuda:0" if torch.cuda.is_available() else "cpu"
-
 # Шлях да мадэлі ў Hugging Face
 repo_id = "archivartaunik/BE_XTTS_V2_60epoch3Dataset"
 checkpoint_file = hf_hub_download(repo_id, filename="model.pth")
@@ -39,9 +36,11 @@ config.load_json(config_file)
 # Ініцыялізацыя і загрузка мадэлі
 XTTS_MODEL = Xtts.init_from_config(config)
 XTTS_MODEL.load_checkpoint(config, checkpoint_path=checkpoint_file, vocab_path=vocab_file, use_deepspeed=False)
-XTTS_MODEL.to(device)
 
+@spaces.GPU(duration=120)
 def text_to_speech(belarusian_story, lang="be", speaker_audio_file=None):
+    device = "cuda:0" if torch.cuda.is_available() else "cpu"
+    XTTS_MODEL.to(device)
     # Калі файл не пададзены, выкарыстоўваем голас па змаўчанні
     if not speaker_audio_file or (not isinstance(speaker_audio_file, str) and speaker_audio_file.name == ""):
         speaker_audio_file = default_voice_file
@@ -96,4 +95,4 @@ demo = gr.Interface(
 )
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch()