Felguk commited on
Commit
c98f722
·
verified ·
1 Parent(s): d6ad142

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +41 -0
README.md CHANGED
@@ -244,4 +244,45 @@ model_interface = gr.load(
244
  # Запуск интерфейса
245
  model_interface.launch()
246
  ```
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
247
 
 
244
  # Запуск интерфейса
245
  model_interface.launch()
246
  ```
247
+ ## Установка в LM Studio
248
+
249
+ LM Studio — это удобное приложение для локального запуска языковых моделей. Чтобы установить и использовать модель `felguk-audio.box` в LM Studio, выполните следующие шаги:
250
+
251
+ 1. **Скачайте и установите LM Studio**:
252
+ - Перейдите на официальный сайт [LM Studio](https://lmstudio.ai/).
253
+ - Скачайте версию для вашей операционной системы (Windows, macOS, Linux).
254
+ - Установите приложение.
255
+
256
+ 2. **Загрузите модель в формате GGUF**:
257
+ - Убедитесь, что ваша модель `felguk-audio.box` доступна в формате GGUF. Если модель еще не конвертирована, используйте инструменты, такие как `llama.cpp`, для конвертации.
258
+ - Загрузите файл модели (например, `felguk-audio.box.gguf`) на ваш компьютер.
259
+
260
+ 3. **Добавьте модель в LM Studio**:
261
+ - Откройте LM Studio.
262
+ - Перейдите на вкладку **"Models"**.
263
+ - Нажмите **"Download a model"** и выберите **"From a file"**.
264
+ - Укажите путь к файлу `felguk-audio.box.gguf`.
265
+
266
+ 4. **Запустите модель**:
267
+ - После загрузки модели выберите её в списке.
268
+ - Перейдите на вкладку **"Chat"**.
269
+ - Настройте параметры модели (например, температура, максимальная длина токенов).
270
+ - Начните взаимодействие с моделью.
271
+
272
+ ---
273
+
274
+ ### Пример использования
275
+
276
+ 1. **Запустите LM Studio**.
277
+ 2. Выберите модель `felguk-audio.box` из списка.
278
+ 3. Введите запрос в текстовое поле и нажмите **Enter**.
279
+ 4. Модель обработает запрос и вернёт ответ.
280
+
281
+ ---
282
+
283
+ ### Примечания
284
+ - Если модель не поддерживает формат GGUF, конвертируйте её с помощью инструментов, таких как `llama.cpp`.
285
+ - Убедитесь, что ваш компьютер соответствует системным требованиям для запуска модели (например, наличие достаточного объема оперативной памяти и видеопамяти).
286
+
287
+ Теперь вы можете использовать модель `felguk-audio.box` локально через LM Studio! 🚀
288