Позвольте другим устройствам в вашей сети использовать этот API-сервер LM Studio

Включение опции "Обслуживание в локальной сети" (Serve on Local Network) позволяет API-серверу LM Studio, работающему на вашей машине, быть доступным для других устройств, подключённых к той же локальной сети.

Это полезно для сценариев, где вы хотите:

• Использовать локальную LLM на ваших других менее мощных устройствах, подключая их к более мощной машине с запущенной LM Studio.
• Позволить нескольким людям использовать один экземпляр LM Studio в сети.
• Использовать API с IoT-устройств, периферийных вычислительных блоков или других сервисов в вашей локальной настройке.

После включения сервер привязывается к адресу, отличному от localhost, вместо localhost. URL-адрес доступа к API обновляется соответствующим образом, и вы можете использовать его в своих приложениях.

⚠️ Внимание

Любая привязка, отличная от 127.0.0.1, делает сервер доступным за пределами localhost; мы рекомендуем включить аутентификацию. Делайте это только если вы знаете, что делаете.

Через графический интерфейс

Чтобы включить обслуживание в локальной сети через графический интерфейс:

1. Перейдите на вкладку Разработчик (Developer) или Локальный сервер (Local Server)
2. Найдите переключатель или опцию "Обслуживание в локальной сети" (Serve on Local Network)
3. Включите эту опцию
4. URL-адрес API обновится, показывая новый адрес для доступа из сети

Через CLI (lms)

Чтобы сделать сервер доступным в вашей локальной сети через CLI, выполните:

lms server start --bind 0.0.0.0

Флаг --bind 0.0.0.0 указывает серверу слушать на всех сетевых интерфейсах, делая его доступным для других устройств в вашей локальной сети.

Узнайте ваш локальный IP-адрес

Чтобы другие устройства могли подключиться к вашему серверу, им нужно знать ваш локальный IP-адрес.

Mac / Linux:

ifconfig | grep "inet " | grep -v 127.0.0.1

Или используйте:

ip addr show | grep "inet " | grep -v 127.0.0.1

Windows:

ipconfig | findstr /i "IPv4"

Вы увидите что-то вроде 192.168.1.100. Это ваш локальный IP-адрес.

Доступ к API из сети

После включения обслуживания в локальной сети вы можете обращаться к API с других устройств, используя ваш локальный IP-адрес:

http://YOUR_LOCAL_IP:1234/v1/chat/completions

Например, если ваш локальный IP 192.168.1.100, URL будет:

http://192.168.1.100:1234/v1/chat/completions

Пример использования с другого устройства

С использованием curl:

curl http://192.168.1.100:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "loaded-model",
    "messages": [
      {"role": "user", "content": "Привет с другого устройства!"}
    ]
  }'

С использованием Python:

from openai import OpenAI

client = OpenAI(
    base_url="http://192.168.1.100:1234/v1",
    api_key="not-needed"
)

response = client.chat.completions.create(
    model="loaded-model",
    messages=[
        {"role": "user", "content": "Привет с другого устройства!"}
    ]
)

print(response.choices[0].message.content)

Настройки безопасности

Аутентификация

Поскольку сервер теперь доступен за пределами localhost, рекомендуется включить аутентификацию для защиты вашего API от несанкционированного доступа.

Вы можете настроить API-ключ в настройках сервера (Server Settings) на вкладке Разработчик (Developer).

Брандмауэр

Убедитесь, что ваш брандмауэр позволяет входящие соединения на порт 1234 (или тот порт, который вы настроили).

Mac / Linux:

# Для UFW (Ubuntu/Debian)
sudo ufw allow 1234/tcp

# Для firewalld (Fedora/RHEL)
sudo firewall-cmd --permanent --add-port=1234/tcp
sudo firewall-cmd --reload

Windows:

Добавьте правило входящего соединения в Windows Defender Firewall для порта 1234.

Устранение неполадок

Не могу подключиться с другого устройства

• Убедитесь, что обслуживание в локальной сети (Serve on Local Network) включено
• Проверьте, что оба устройства находятся в одной локальной сети
• Убедитесь, что брандмауэр не блокирует порт 1234
• Проверьте, что вы используете правильный локальный IP-адрес
• Попробуйте отключить антивирус временно для тестирования

Сервер недоступен после перезагрузки

• Настройка обслуживания в локальной сети сохраняется между перезапусками
• Если сервер не запускается автоматически, запустите его вручную через интерфейс или CLI
• Проверьте логи LM Studio для получения подробной информации об ошибке

Медленные ответы из сети

• Проверьте скорость вашей локальной сети
• Убедитесь, что нет других приложений, использующих много сетевых ресурсов
• Рассмотрите возможность использования проводного соединения вместо Wi-Fi для лучшей производительности

Дополнительные ресурсы

Локальный сервер

Запуск API-сервера LLM на localhost с настройками сервера LM Studio

Настройка параметров сервера

Настройка параметров сервера для API-сервера LM Studio

---

---

Оригинал страницы