Когда у одного провайдера заканчивается квота, роутер может направить следующий запрос в другую доступную модель. В этом гайде ты запустишь один роутер, проверишь первую модель и добавишь запасную. Начни с того варианта, который проще установить на твоём компьютере.
1. Выбери роутер
FreeLLMAPI подойдёт, если хочется начать с обычного установщика на Windows или macOS и настроить порядок провайдеров в панели.
releases
Открыть материал ↗github.com/tashfeenahmed/freellmapi/releasesOmniRoute удобен, если у тебя уже есть Node.js и ты хочешь собрать собственную цепочку из конкретных моделей. В README для установки через npm указаны ветки Node.js 22 (от 22.22.2) и 24 LTS.
OmniRoute
Открыть материал ↗github.com/cheaper-inference/OmniRoute2. Запусти роутер и подключи первую модель
Вариант А — FreeLLMAPI
- В Releases выбери установщик для своей системы: .exe для Windows или .dmg для macOS. Запусти приложение, затем открой **Open Dashboard** из значка рядом с часами.
- На странице **Keys** добавь ключ одного провайдера. Выбери модель, доступную с твоей квотой. В панели FreeLLMAPI скопируй единый ключ роутера и посмотри фактический локальный адрес. У настольной версии порт может отличаться от примеров в README.
- В **Playground** отправь «Ответь одним словом: работает». Проверь, что пришёл ответ и в статистике появился запрос к ожидаемой модели.
Вариант Б — OmniRoute
- В терминале проверь версию Node.js, затем установи и запусти роутер. Пока пользуешься им, оставь процесс запущенным.
node --version
npm install -g omniroute
omniroute- Открой **http://localhost:20128**. В **Providers** подключи одного провайдера по его ключу или через вход в аккаунт. Если npm сообщил, что заблокировал сценарии установки, сверись с разделом Quick Start проекта для своей версии npm.
- В **Endpoints** возьми ключ OmniRoute. Для обычного запроса в формате OpenAI адрес по умолчанию —
http://localhost:20128/v1. Используй ID подключённой модели из панели. Попроси агента отправить короткий запрос к/v1/chat/completionsи показать, какая модель ответила.
Два разных ключа. Ключ провайдера добавляется в роутер. Ключ роутера используется в Claude Code, Codex или другом клиенте, который обращается к локальному адресу. Вводи секреты локально, без вставки в чат.
3. Подключи Claude Code или Codex
Открой терминал в папке тестового проекта. Для первого запуска используй команду роутера, которая настраивает отдельный сеанс CLI. Адрес и модель бери из своей панели.
FreeLLMAPI. Для Claude Code команда называется npx freellmapi launch, для Codex CLI — npx freellmapi launch-codex. Укажи адрес запущенного роутера через FREELLMAPI_URL и его единый ключ через FREELLMAPI_API_KEY. Если нужен постоянный профиль, в инструкции есть setup-claude и setup-codex с предварительным просмотром изменений через --dry-run.
README.md
Открыть материал ↗github.com/tashfeenahmed/freellmapi/blob/main/cli/README.mdOmniRoute. В примерах ниже замени ID_МОДЕЛИ на точный ID из панели и запусти одну из команд.
omniroute run claude --model ID_МОДЕЛИ
omniroute run codex --model ID_МОДЕЛИCLI INTEGRATIONS.md
Открыть материал ↗github.com/cheaper-inference/OmniRoute/blob/release/v3.8.54/docs/guides/CLI-INTEGRATIONS.mdПроверь работу с файлами. Создай в тестовой папке файл router-test.txt с одной строкой и попроси агента прочитать её и назвать имя файла. Ответ в чате проверяет подключение модели. Чтение файла дополнительно проверяет, что выбранная связка роутера, модели и клиента умеет работать с инструментами. В панели роутера посмотри, дошёл ли запрос и кто ответил.
4. Добавь запасную модель
- Подключи второго провайдера и отправь короткий запрос каждой модели отдельно. Так проще найти ошибку до настройки цепочки.
- В **FreeLLMAPI** открой **Fallback Chain**, поставь нужного провайдера первым и выбери автоматический маршрут
auto. В **OmniRoute** создай **Combo**, добавь две модели и выбери стратегиюpriority. Укажи ID этой цепочки как модель в клиенте.
- Для проверки временно отключи первый вариант в настройках маршрута и повтори короткий запрос. Убедись по журналу, что ответила запасная модель. Верни основную и проверь порядок. Этот тест показывает, что запасной маршрут доступен. При реальном исчерпании квоты поведение зависит от ответа провайдера и настроек переключения.
Что означает цифра из ролика. 7,4 млрд токенов в месяц — оценка суммарных бесплатных квот в каталоге FreeLLMAPI. Твой лимит зависит от аккаунтов, моделей и тарифов, которые ты подключил. Если оба роутера работают через один аккаунт провайдера, его квота остаётся общей. Для бесплатной цепочки выбирай конкретные модели с доступной бесплатной квотой и проверь, что в запасных маршрутах нет платных вариантов.
5. Хочешь поручить настройку агенту?
Скопируй запрос и подставь ссылку на один выбранный проект.
Установи локально этот роутер по официальному README: [вставь ссылку на FreeLLMAPI или OmniRoute].
Сначала проверь мою ОС и зависимости. Покажи, где открыть панель и куда я сам могу ввести ключ провайдера. Используй одну модель с доступной бесплатной квотой. Затем помоги запустить Claude Code или Codex CLI через роутер в отдельном сеансе. Проверь короткий ответ и чтение файла в тестовой папке, а в журнале покажи, какая модель ответила.
Когда первая модель заработает, покажи, как добавить вторую и проверить запасной маршрут. Ключи в чат не выводи. Платные модели не подключай.Если запрос не проходит, начни с простого: открывается ли панель и отвечает ли модель в ней? Если панель отвечает, а CLI выдаёт ошибку, проверь адрес для выбранного клиента, ключ роутера и точный ID модели. При ошибке квоты проверь тариф и журнал запроса в панели провайдера.