Ядро для ИИ-агентов, которые работают полностью на устройстве без облака, с ускорением на нейропроцессорах Qualcomm — задержка меньше 100 мс.
OAK (Open Agent Kernel) — экспериментальный операционный слой для ИИ-агентов на C++, который выполняет всю работу локально, без обращения к облаку: 80% запросов обрабатываются мгновенно через сопоставление шаблонов, остальные — локальным запуском языковой модели. Разработчики заявляют журнал восстановления после сбоев, синхронизацию нескольких устройств, формальную верификацию и ускорение на нейропроцессоре Qualcomm до 14 раз при меньшем энергопотреблении. Проект на стадии альфа-версии, API нестабилен.
Описание автора:Build AI agents that run 100% on-device. Sub-100ms latency on Qualcomm NPU. Zero cloud dependency.