Инструмент для Node.js, который быстро выдаёт вероятностные ответы на структурированные вопросы по данным — без генерации текста.
Laya — модель «быстрых решений»: на входе она получает данные (например, тикет поддержки или email) и типовые вопросы, а возвращает вероятностные ответы — выбор варианта из списка, оценку по шкале или вероятность истинности утверждения. Работает через ONNX Runtime без Python и PyTorch; на Apple-чипе обработка нескольких вопросов занимает около 140 мс.
Описание автора:Run Laya, the open-source Jev-compatible System-1 decision model, from Node.js / TypeScript via ONNX Runtime