14 - REST API LM Studio
LM Studio предлагает мощный REST API с первоклассной поддержкой локального инференса и управления моделями. В дополнение к нашему нативному API, мы предоставляем OpenAI-совместимые эндпоинты и Anthropic-совместимые эндпоинты.
Что нового
Ранее существовал v0 REST API. С выходом LM Studio 0.4.0 мы официально выпустили наш нативный v1 REST API по эндпоинтам /api/v1/* и рекомендуем использовать именно его.
v1 REST API включает расширенные функции, такие как:
- MCP через API
- Stateful чаты (с сохранением состояния)
- Настройка аутентификации с API-токенами
- Эндпоинты для загрузки, выгрузки и скачивания моделей
Поддерживаемые эндпоинты
Следующие эндпоинты доступны в v1 REST API LM Studio:
| Эндпоинт | Метод | Документация |
|---|---|---|
/api/v1/chat |
POST | Чат |
/api/v1/models |
GET | Список моделей |
/api/v1/models/load |
POST | Загрузка модели |
/api/v1/models/unload |
POST | Выгрузка модели |
/api/v1/models/download |
POST | Скачивание модели |
/api/v1/models/download/status |
GET | Статус скачивания |
Сравнение эндпоинтов инференса
Таблица ниже сравнивает функции эндпоинта /api/v1/chat от LM Studio с OpenAI-совместимыми и Anthropic-совместимыми эндпоинтами инференса.
| Функция | /api/v1/chat | /v1/responses | /v1/chat/completions | /v1/messages |
|---|---|---|---|---|
| Потоковая передача | ✅ | ✅ | ✅ | ✅ |
| Stateful чат | ✅ | ✅ | ❌ | ❌ |
| Удалённые MCP | ✅ | ✅ | ❌ | ❌ |
| MCP из LM Studio | ✅ | ✅ | ❌ | ❌ |
| Пользовательские инструменты | ❌ | ✅ | ✅ | ✅ |
| Включение сообщений ассистента в запрос | ❌ | ✅ | ✅ | ✅ |
| События потоковой загрузки модели | ✅ | ❌ | ❌ | ❌ |
| События потоковой обработки промпта | ✅ | ❌ | ❌ | ❌ |
| Указание длины контекста в запросе | ✅ | ❌ | ❌ | ❌ |
Пожалуйста, сообщайте об ошибках, открывая issue на Github.
Idle TTL и автоматическая выгрузка
Опциональная автоматическая выгрузка неиспользуемых моделей через определённое время (TTL)
Быстрый старт
Скачайте модель и начните простую сессию чата, используя REST API
Дополнительные ресурсы
Используйте локальные модели с любыми инструментами, разработанными для OpenAI API
Полный справочник по REST API-эндпоинтам LM Studio
Запуск API-сервера LLM на localhost с настройками сервера LM Studio