03 - Загрузка LLM
LM Studio имеет встроенный загрузчик моделей, который позволяет загружать любые поддерживаемые модели с Hugging Face.
Поиск моделей
Вы можете искать модели по ключевому слову (например, llama, gemma, lmstudio) или указав конкретную строку user/model. Вы даже можете вставлять полные URL-адреса Hugging Face в строку поиска!
Совет: вы можете перейти на вкладку Обзор (Discover) из любого места, нажав ⌘ + 2 на Mac или Ctrl + 2 на Windows/Linux.
Какой вариант загрузки выбрать?
Вы часто будете видеть несколько вариантов для одной и той же модели с названиями вроде Q3_K_S, Q4_K_M, Q8_0 и т.д. Все это копии одной и той же модели, представленные с разной степенью точности. Буква Q обозначает технику, называемую "квантование", что примерно означает сжатие файлов модели по размеру с некоторой потерей качества.
Выбирайте 4-битный вариант или выше, если ваш компьютер достаточно мощный для его запуска.
Продвинутый уровень
Изменение директории моделей
Вы можете изменить директорию моделей, перейдя в раздел Мои модели (My Models).
Сообщество
Общайтесь с другими пользователями LM Studio, обсуждайте LLM, оборудование и многое другое на сервере LM Studio в Discord.
Понимание различий между приложением LM Studio, llmster и lms