File size: 2,169 Bytes
d8d694f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
from .web_configs import WEB_CONFIGS

from .rag.rag_worker import load_rag_model
from .asr.asr_worker import load_asr_model
from .digital_human.realtime_inference import digital_human_preprocess
from .infer.load_infer_model import load_turbomind_model
from .tts.gpt_sovits.inference_gpt_sovits import get_tts_model


# ==================================================================
#                             数字人 模型
# ==================================================================

if WEB_CONFIGS.ENABLE_DIGITAL_HUMAN:
    DIGITAL_HUMAN_HANDLER = digital_human_preprocess(
        model_dir=WEB_CONFIGS.DIGITAL_HUMAN_MODEL_DIR,
        use_float16=False,
        video_path=WEB_CONFIGS.DIGITAL_HUMAN_VIDEO_PATH,
        work_dir=WEB_CONFIGS.DIGITAL_HUMAN_GEN_PATH,
        fps=WEB_CONFIGS.DIGITAL_HUMAN_FPS,
        bbox_shift=WEB_CONFIGS.DIGITAL_HUMAN_BBOX_SHIFT,
    )
else:
    DIGITAL_HUMAN_HANDLER = None


# ==================================================================
#                               RAG 模型
# ==================================================================

if WEB_CONFIGS.ENABLE_RAG:
    RAG_RETRIEVER = load_rag_model()
else:
    RAG_RETRIEVER = None


# ==================================================================
#                               TTS 模型
# ==================================================================

if WEB_CONFIGS.ENABLE_TTS:
    # samber
    # from utils.tts.sambert_hifigan.tts_sambert_hifigan import get_tts_model
    # TTS_HANDLER = get_tts_model()

    # gpt_sovits
    TTS_HANDLER = get_tts_model()
else:
    TTS_HANDLER = None


# ==================================================================
#                               ASR 模型
# ==================================================================

if WEB_CONFIGS.ENABLE_ASR:
    ASR_HANDLER = load_asr_model()
else:
    ASR_HANDLER = None


# ==================================================================
#                               LLM 模型
# ==================================================================

# 加载 LLM 模型
LLM_MODEL = load_turbomind_model(WEB_CONFIGS.LLM_MODEL_NAME)