Jeva: модели System One с первых принципов

Суть

Модели System One обеспечивают прямое принятие решений с низкой задержкой, но предсказание ответа из сериализованного текста само по себе не уважает структуру задачи решения. В работе выделяют четыре структурных требования — null-aware, permutation-invariant, option-scalable и cacheable — и предлагают Jeva, «собранную для решений» архитектуру, которая выполняет их совместно: общий энкодер независимо представляет запрос и каждый вариант, а компактный стек решений уточняет только состояние запроса относительно неизменяемой памяти вариантов.

Результаты

По результатам оценок Jeva сочетает сильное качество на типизированных решениях с почти идеальным обнаружением отсутствия ответа и отсутствием переключений решения при любых проверенных перестановках. Она масштабируется до тысяч кандидатов и существенно снижает задержку за счёт переиспользования между запросами без изменения решений.

Зачем это знать

Jeva задаёт архитектурные принципы для быстрых моделей принятия решений, устойчивых к порядку вариантов, росту числа кандидатов и повторному использованию вычислений между запросами.