П.ВИН
Tool

LLM Router — Tool из портфолио Паши Вина

Единый OpenAI-совместимый API-шлюз, который маршрутизирует запросы к десяткам LLM-провайдеров через один эндпоинт — с балансировкой нагрузки, автоматическим failover, управлением ключами и поканальным учётом расхода токенов.

01. КатегорияTool
02. РольFull-stack, Product
03. Датамай 2026

Что это?

Единый OpenAI-совместимый API-шлюз, который маршрутизирует запросы к десяткам LLM-провайдеров через один эндпоинт — с балансировкой нагрузки, автоматическим failover, управлением ключами и поканальным учётом расхода токенов.

Какую задачу решает?

Было: отдельная интеграция, свой ключ и свой биллинг под каждого AI-провайдера. → Стало: один эндпоинт ко всем моделям с автопереключением при сбоях и единым учётом расходов.

Как реализовано?

Реализовано на стеке: Go, Gin, React, Redis. Один OpenAI-совместимый эндпоинт прячет все провайдеры за собой, сам выбирает канал и переключается при сбоях.

GoGinReactRedisMySQLGoGinReactRedisMySQLGoGinReactRedisMySQLGoGinReactRedisMySQL
Подключать каждую новую AI-модель отдельно — это свой ключ, свой формат и свои лимиты, которые быстро превращаются в неуправляемый зоопарк интеграций. Цель — спрятать всех провайдеров за единым эндпоинтом: шлюз сам выбирает канал, переключается при сбоях и ведёт единый учёт расходов.

Вызов

Зоопарк провайдеров

Каждая LLM-модель — это своя интеграция, свой формат ключей и свои лимиты, которые приходится поддерживать вручную.

  • — Десятки SDK и форматов запросов под каждого провайдера
  • — Падение одного API роняет весь продукт без запасного канала
  • — Расход токенов и ключи разбросаны и непрозрачны

Решение

Единый шлюз

Один OpenAI-совместимый эндпоинт прячет все провайдеры за собой, сам выбирает канал и переключается при сбоях.

  • + Унифицированный API ко всем моделям без переписывания кода
  • + Автоматический failover и балансировка между каналами
  • + Централизованные ключи, лимиты и учёт расхода токенов

Архитектура & Стек

Mindmap

[ Mindmap Процессов / v2.0 ]
NODE.01

Gateway

Приём запросов
Go · Gin · OpenAI-совместимый API

NODE.02

Router

Выбор канала
Балансировка · Failover · Приоритеты

NODE.03

Billing

Учёт токенов
Redis · MySQL · Квоты

NODE.04

Admin

Панель управления
React · Ключи · Аналитика

COREEngine

Смоделировано 100 предпринимателями

Бизнес Импакт

1

API ко всем моделям

0

простоя при сбое провайдера

24/7

автономная маршрутизация

Открыть проект
Следующий кейс

SEO Asset Builder →