Makaria commited on
Commit
b62a0f3
1 Parent(s): 70c85d4
Files changed (1) hide show
  1. bot.py +20 -13
bot.py CHANGED
@@ -1,17 +1,24 @@
1
- import os
2
- import telebot
3
- from huggingface_hub import InferenceClient
4
 
5
- # Получаем токены из окружения
6
- hf_token = os.getenv("HUGGINGFACE_TOKEN")
7
- tg_token = os.getenv("TG_TOKEN")
8
 
9
- bot = telebot.TeleBot(tg_token)
10
- client = InferenceClient("sambanovasystems/SambaLingo-Russian-Chat", token=hf_token)
 
11
 
12
- @bot.message_handler(func=lambda message: True)
13
- def echo_all(message):
14
- response = client.chat_completion(messages=[{"role": "user", "content": message.text}])
15
- bot.reply_to(message, response['choices'][0]['message']['content'])
16
 
17
- bot.polling()
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from huggingface_hub import HfApi, InferenceApi
 
 
2
 
3
+ # Получаем токен из secrets
4
+ token = os.getenv("HUGGINGFACE_TOKEN")
 
5
 
6
+ # Проверяем наличие токена
7
+ if not token:
8
+ raise ValueError("HUGGINGFACE_TOKEN is not set in secrets.")
9
 
10
+ # Инициализируем Inference API
11
+ api = InferenceApi(repo_id="sambanovasystems/SambaLingo-Russian-Chat", token=token)
 
 
12
 
13
+ def respond(user_message):
14
+ try:
15
+ response = api(inputs=user_message)
16
+ return response
17
+ except Exception as e:
18
+ print(f"Error: {str(e)}")
19
+ return "Произошла ошибка при обращении к модели."
20
+
21
+ # Пример использования
22
+ user_message = "Завершите параграф: Родион Раскольников - главный персонаж романа 'Преступление и наказание' Федора Достоевского."
23
+ result = respond(user_message)
24
+ print(result)