К содержимому
Шулай . AI-дайджест: рейтинги, новости, исследования
Лента
Новые модели 1 НОЯБРЯ 2026

AtomicChat/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B-GGUF: новая модель в трендах Hugging Face

Рейтинги trending-asr, место 10
Автор AtomicChat
Ссылка https://huggingface.co/AtomicChat/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B-GGUF
Лицензия other (OpenMDW-1.1)

Что это

GGUF-сборки открытой модели распознавания речи NVIDIA-Nemotron-3.5-Transcribe-30B-A4B для рантайма NVIDIA NeMo-Speech.cpp. AtomicChat предлагает готовые файлы без скачивания 67-гигабайтного чекпоинта и конвертации на Python: каждый вариант состоит из декодера и обязательного F16-энкодера, который содержит речевой энкодер, ветку диаризации и CTC-голову для таймстемпов.

Данные из карточки

  • Семь декодеров от 13.57 до 35.00 ГБ: от NVFP4 для Blackwell до IQ4_NL и Q8_0 для CPU, Metal и Vulkan; энкодер F16 занимает 1.67 ГБ и нужен вместе с любым декодером.
  • Поддерживаются 40 языков, записи длиной до часа, таймстемпы слов, метки говорящих, перевод речи и пользовательские инструкции.
  • На тесте из 2 200 фраз декодеры от 15.55 ГБ транскрибируют так же, как BF16-декодер: для английского, немецкого, французского и испанского отклонение в пределах ±0.18 пункта, для китайского CER меняется на +0.02…+0.41.
  • AD-Q2_0_M на 13.57 ГБ рассчитан на 16-гигабайтные GPU (пиковая память 15.6 ГиБ), но китайский CER у него выше на 1.5 пункта.
  • AD-NVFP4 и AD-IQ4_NL занимают по 19.68 ГБ против 21.79 и 20.35 ГБ у конвертаций NVIDIA; эмбеддинги и выходная голова переведены в Q8_0, эксперты IQ4_NL квантованы с importance matrix.
  • В комплекте идёт BF16-драфтер DFlash2 на 1.15 ГБ для спекулятивного декодирования на CUDA-пути.
Источники
Дальше LiquidAI/d1-2B: новая модель в трендах Hugging Face