Роутер от NVIDIA, который распределяет запросы к локальным ИИ-моделям между несколькими компьютерами в домашней сети.
NVIDIA Personal AI Router (PAIR) находит совместимые компьютеры в локальной сети, следит за доступными на них движками и моделями и выдаёт приложениям единую точку доступа, совместимую с Ollama и OpenAI API. Каждый отдельный запрос направляется на один подходящий узел с учётом загрузки — PAIR не объединяет видеопамять нескольких GPU и не делит один запрос между машинами. Подходит для параллельной работы нескольких ИИ-агентов, поддерживает Windows, Linux и macOS.
Описание автора:Router that virtually distributes inference across connected devices in the home.
