Библиотека для Python, которая заставляет языковые модели выдавать ответы строго в заданном формате — JSON, по шаблону или грамматике.
Outlines решает проблему непредсказуемых ответов больших языковых моделей: вместо того чтобы чинить результат после генерации регулярками и парсерами, библиотека гарантирует нужную структуру данных прямо во время генерации текста. Используется, например, для сортировки обращений клиентов, категоризации товаров или заполнения форм по шаблону; ей пользуются в NVIDIA, Cohere, HuggingFace и других компаниях.
Описание автора:Structured Outputs
Python★ 15 846создан 17 марта 2023форков 882Apache-2.0