Отправляйте запросы к Anthropic-совместимым эндпоинтам Messages.

Поддерживаемые эндпоинты

ЭндпоинтМетодДокументация
/v1/messages POST Messages

Использование Claude Code с LM Studio

Для полного руководства смотрите: Использование Claude Code с LM Studio.

export ANTHROPIC_BASE_URL=http://localhost:1234
export ANTHROPIC_AUTH_TOKEN=lmstudio
claude --model openai/gpt-oss-20b

Заголовки аутентификации

Когда включена опция "Требовать аутентификацию" (Require Authentication), LM Studio принимает как заголовок x-api-key, так и стандартный заголовок Authorization: Bearer <token>. Чтобы узнать больше о включении аутентификации в LM Studio, смотрите раздел Аутентификация.

Укажите базовый URL для LM Studio

Направьте ваш Anthropic-клиент или любой HTTP-запрос на ваш локальный сервер LM Studio.

Примечание: Следующие примеры предполагают, что порт сервера — 1234.

Пример cURL

- curl https://api.anthropic.com/v1/messages \
+ curl http://localhost:1234/v1/messages \
   -H "Content-Type: application/json" \
+  -H "x-api-key: $LM_API_TOKEN" \
   -d '{
-    "model": "claude-4-5-sonnet",
+    "model": "ibm/granite-4-micro",
     "max_tokens": 256,
     "messages": [
       {"role": "user", "content": "Напиши хокку о локальных LLM."}
     ]
   }'

Пример Python

from anthropic import Anthropic

client = Anthropic(
    base_url="http://localhost:1234",
    api_key="lmstudio",
)

message = client.messages.create(
    max_tokens=1024,
    messages=[
        {
            "role": "user",
            "content": "Привет из LM Studio",
        }
    ],
    model="ibm/granite-4-micro",
)

print(message.content)

Если вы не включили опцию "Требовать аутентификацию" (Require Authentication), заголовок x-api-key является необязательным. Для примера на Python вы также можете опустить api_key, когда аутентификация отключена.

Если у вас возникли проблемы, присоединяйтесь к нашему Discord и перейдите в канал разработчиков.

Дополнительные ресурсы

REST API LM Studio

Нативные эндпоинты LM Studio с расширенными возможностями

OpenAI-совместимые эндпоинты

Используйте локальные модели с любыми инструментами, разработанными для OpenAI API

Локальный сервер

Запуск API-сервера LLM на localhost с настройками сервера LM Studio



Оригинал страницы