18 - TypeScript SDK (lmstudio-js)
Начало работы с TypeScript/JavaScript SDK от LM Studio
SDK предоставляет набор программных инструментов для взаимодействия с LLM, моделями эмбеддингов и агентскими потоками.
Установка SDK
lmstudio-js доступен как пакет npm. Вы можете установить его с помощью npm, yarn или pnpm.
npm install @lmstudio/sdk --save
Исходный код и вклад в открытый исходный код доступны на GitHub: lmstudio-js.
Возможности
- Использование LLM для ответов в чатах или предсказания завершения текста
- Определение функций как инструментов и превращение LLM в автономных агентов, работающих полностью локально
- Загрузка, настройка и выгрузка моделей из памяти
- Поддержка как браузера, так и любых сред, совместимых с Node
- Генерация эмбеддингов для текста и многое другое!
Быстрый пример: Чат с моделью Llama
index.ts
import { LMStudioClient } from "@lmstudio/sdk";
const client = new LMStudioClient();
const model = await client.llm.model("qwen/qwen3-4b-2507");
const result = await model.respond("What is the meaning of life?");
console.info(result.content);
Получение локальных моделей
Приведённый выше код требует модель qwen3-4b-2507. Если у вас нет этой модели, выполните следующую команду в терминале для её загрузки:
lms get qwen/qwen3-4b-2507
Подробнее о lms get в CLI от LM Studio читайте здесь.
Дополнительные ресурсы
Используйте lmstudio-python для загрузки моделей, генерации текста, встраивания контента и создания агентов
Используйте lms для чата, загрузки моделей, управления демоном, контроля сервера и публикации