Самостоятельно размещаемый шлюз для языковых моделей на .NET: объединяет 10 провайдеров ИИ под единым OpenAI-совместимым API.
LLMProxy — self-hosted сервер на C# и .NET, который подставляется вместо прямого обращения к ИИ-провайдерам: приложения ходят по единому адресу с ключами шлюза, а сервис маршрутизирует запросы, хранит учётные данные десяти провайдеров, следит за лимитами и учитывает расход. Есть веб-консоль администратора, поддержка нескольких API-ключей на провайдера с автопереключением и готовый Docker-образ для развёртывания.
Описание автора:Self-hosted OpenAI-compatible LLM gateway for .NET: 10 providers, multiple API keys, routing, quotas, usage accounting and a web admin console.