MJev-Spatial: пространственный интеллект System One через собственное сопоставление внимания

Суть

Пространственный интеллект требует суждений на скорости взаимодействия, но модели «видение-язык» (VLM) выдают такие ответы свободной генерацией текста, платя за авторегрессивное декодирование и разбор ответа, хотя пространство вывода компактно (один из нескольких вариантов, скаляр или 2D-точка). В работе представлен MJev-Spatial — мультимодальная модель решений System 1, которая решает все три типа задач пространственного понимания в единой структуре классификации, оценивая каждого кандидата как класс с помощью предобученных проекций query и key без добавления параметров.

Результаты

На базе Qwen3.5-4B и обучении на 12.3M пар вопрос-ответ MJev-Spatial достигает лучшего общего результата (65.64%) среди восьми протестированных моделей, занимает первое место на семи из двенадцати бенчмарков и превосходит свою немодифицированную авторегрессивную базовую модель на всех двенадцати, работая в 2.5 раза быстрее самой быстрой авторегрессивной базовой линии и в 5.6 раза быстрее базовой модели. Длино-зависимый глобальный батчинг и балансировка нагрузки между GPU повышают пропускную способность обучения на 30.8% относительно исходной стратегии.

Зачем это знать

MJev-Spatial показывает, что пространственные решения можно свести к одному прямому проходу классификации без генерации токенов ответа, ускоряя инференс при росте точности.