Just User.
← Все гайды

ТОКЕНЫ

FreeLLMAPI и OmniRoute — как подключить запасную модель

Когда у одного провайдера заканчивается квота, роутер может направить следующий запрос в другую доступную модель. В этом гайде ты запустишь один роутер, проверишь первую модель и добавишь запасную. Начни с того варианта, который проще установить на твоём компьютере.

1. Выбери роутер

FreeLLMAPI подойдёт, если хочется начать с обычного установщика на Windows или macOS и настроить порядок провайдеров в панели.

releases

Открыть материал ↗github.com/tashfeenahmed/freellmapi/releases

OmniRoute удобен, если у тебя уже есть Node.js и ты хочешь собрать собственную цепочку из конкретных моделей. В README для установки через npm указаны ветки Node.js 22 (от 22.22.2) и 24 LTS.

OmniRoute

Открыть материал ↗github.com/cheaper-inference/OmniRoute

2. Запусти роутер и подключи первую модель

Вариант А — FreeLLMAPI

  1. В Releases выбери установщик для своей системы: .exe для Windows или .dmg для macOS. Запусти приложение, затем открой **Open Dashboard** из значка рядом с часами.
  1. На странице **Keys** добавь ключ одного провайдера. Выбери модель, доступную с твоей квотой. В панели FreeLLMAPI скопируй единый ключ роутера и посмотри фактический локальный адрес. У настольной версии порт может отличаться от примеров в README.
  1. В **Playground** отправь «Ответь одним словом: работает». Проверь, что пришёл ответ и в статистике появился запрос к ожидаемой модели.

Вариант Б — OmniRoute

  1. В терминале проверь версию Node.js, затем установи и запусти роутер. Пока пользуешься им, оставь процесс запущенным.
Текст для копирования
node --version
npm install -g omniroute
omniroute
  1. Открой **http://localhost:20128**. В **Providers** подключи одного провайдера по его ключу или через вход в аккаунт. Если npm сообщил, что заблокировал сценарии установки, сверись с разделом Quick Start проекта для своей версии npm.
  1. В **Endpoints** возьми ключ OmniRoute. Для обычного запроса в формате OpenAI адрес по умолчанию — http://localhost:20128/v1. Используй ID подключённой модели из панели. Попроси агента отправить короткий запрос к /v1/chat/completions и показать, какая модель ответила.

Два разных ключа. Ключ провайдера добавляется в роутер. Ключ роутера используется в Claude Code, Codex или другом клиенте, который обращается к локальному адресу. Вводи секреты локально, без вставки в чат.

3. Подключи Claude Code или Codex

Открой терминал в папке тестового проекта. Для первого запуска используй команду роутера, которая настраивает отдельный сеанс CLI. Адрес и модель бери из своей панели.

FreeLLMAPI. Для Claude Code команда называется npx freellmapi launch, для Codex CLI — npx freellmapi launch-codex. Укажи адрес запущенного роутера через FREELLMAPI_URL и его единый ключ через FREELLMAPI_API_KEY. Если нужен постоянный профиль, в инструкции есть setup-claude и setup-codex с предварительным просмотром изменений через --dry-run.

README.md

Открыть материал ↗github.com/tashfeenahmed/freellmapi/blob/main/cli/README.md

OmniRoute. В примерах ниже замени ID_МОДЕЛИ на точный ID из панели и запусти одну из команд.

Текст для копирования
omniroute run claude --model ID_МОДЕЛИ
omniroute run codex --model ID_МОДЕЛИ

CLI INTEGRATIONS.md

Открыть материал ↗github.com/cheaper-inference/OmniRoute/blob/release/v3.8.54/docs/guides/CLI-INTEGRATIONS.md

Проверь работу с файлами. Создай в тестовой папке файл router-test.txt с одной строкой и попроси агента прочитать её и назвать имя файла. Ответ в чате проверяет подключение модели. Чтение файла дополнительно проверяет, что выбранная связка роутера, модели и клиента умеет работать с инструментами. В панели роутера посмотри, дошёл ли запрос и кто ответил.

4. Добавь запасную модель

  1. Подключи второго провайдера и отправь короткий запрос каждой модели отдельно. Так проще найти ошибку до настройки цепочки.
  1. В **FreeLLMAPI** открой **Fallback Chain**, поставь нужного провайдера первым и выбери автоматический маршрут auto. В **OmniRoute** создай **Combo**, добавь две модели и выбери стратегию priority. Укажи ID этой цепочки как модель в клиенте.
  1. Для проверки временно отключи первый вариант в настройках маршрута и повтори короткий запрос. Убедись по журналу, что ответила запасная модель. Верни основную и проверь порядок. Этот тест показывает, что запасной маршрут доступен. При реальном исчерпании квоты поведение зависит от ответа провайдера и настроек переключения.

Что означает цифра из ролика. 7,4 млрд токенов в месяц — оценка суммарных бесплатных квот в каталоге FreeLLMAPI. Твой лимит зависит от аккаунтов, моделей и тарифов, которые ты подключил. Если оба роутера работают через один аккаунт провайдера, его квота остаётся общей. Для бесплатной цепочки выбирай конкретные модели с доступной бесплатной квотой и проверь, что в запасных маршрутах нет платных вариантов.

5. Хочешь поручить настройку агенту?

Скопируй запрос и подставь ссылку на один выбранный проект.

Текст для копирования
Установи локально этот роутер по официальному README: [вставь ссылку на FreeLLMAPI или OmniRoute].

Сначала проверь мою ОС и зависимости. Покажи, где открыть панель и куда я сам могу ввести ключ провайдера. Используй одну модель с доступной бесплатной квотой. Затем помоги запустить Claude Code или Codex CLI через роутер в отдельном сеансе. Проверь короткий ответ и чтение файла в тестовой папке, а в журнале покажи, какая модель ответила.

Когда первая модель заработает, покажи, как добавить вторую и проверить запасной маршрут. Ключи в чат не выводи. Платные модели не подключай.

Если запрос не проходит, начни с простого: открывается ли панель и отвечает ли модель в ней? Если панель отвечает, а CLI выдаёт ошибку, проверь адрес для выбранного клиента, ключ роутера и точный ID модели. При ошибке квоты проверь тариф и журнал запроса в панели провайдера.