LM Studio может работать полностью автономно, просто убедитесь, что сначала загрузили файлы моделей.

В целом, LM Studio не требует подключения к интернету для работы. Это касается основных функций, таких как общение с моделями, работа с документами или запуск локального сервера — ни одно из этих действий не требует интернета.

Операции, НЕ требующие подключения к интернету

Использование загруженных LLM

После того как вы загрузили LLM на ваш компьютер, модель будет работать локально, и вы сможете полностью работать автономно. Ничто из того, что вы вводите в LM Studio при общении с LLM, не покидает ваше устройство.

Общение с документами (RAG)

Когда вы перетаскиваете документ в LM Studio для общения с ним или выполнения RAG, этот документ остается на вашем компьютере. Вся обработка документов выполняется локально, и ничего из того, что вы загружаете в LM Studio, не покидает приложение.

Запуск локального сервера

LM Studio можно использовать как сервер для предоставления инференса LLM на localhost или в локальной сети. Запросы к LM Studio используют эндпоинты OpenAI и возвращают объекты ответов в стиле OpenAI, но остаются локальными.

Операции, требующие подключения к интернету

Несколько операций, описанных ниже, требуют подключения к интернету. После того как вы загрузите LLM на ваш компьютер, вы сможете полностью работать автономно.

Поиск моделей

Когда вы ищете модели на вкладке Discover, LM Studio выполняет сетевые запросы (например, к huggingface.co). Поиск не будет работать без подключения к интернету.

Загрузка новых моделей

Для загрузки моделей вам потребуется стабильное (и достаточно быстрое) подключение к интернету. Вы также можете использовать "sideload" моделей (использовать модели, которые были получены вне приложения). Смотрите инструкции по загрузке моделей.

Каталог моделей на вкладке Discover

Каждая версия LM Studio поставляется со встроенным начальным каталогом моделей. Записи в каталоге обычно отражают состояние онлайн-каталога на момент выпуска релиза. Однако для отображения статистики и вариантов загрузки для каждой модели нам необходимо выполнять сетевые запросы (например, к huggingface.co).

Загрузка сред выполнения

"LM Runtimes" — это индивидуально упакованные программные библиотеки или движки LLM, которые позволяют запускать определенные форматы моделей (например, llama.cpp). Начиная с LM Studio 0.3.0 (читайте объявление) стало легко загружать и даже.hot-swap среды выполнения без полного обновления LM Studio. Для проверки доступных сред выполнения и их загрузки нам необходимо выполнять сетевые запросы.

Проверка обновлений приложения

На macOS и Windows LM Studio имеет встроенный механизм обновления приложения. Обновление в приложении для Linux находится в разработке. Когда вы открываете LM Studio, механизм обновления выполняет сетевой запрос для проверки наличия новых обновлений. Если доступна новая версия, приложение покажет вам уведомление с предложением обновить сейчас или позже.

Без подключения к интернету вы не сможете обновить приложение через встроенный механизм обновления.


Оригинал страницы