Новые модели 26 ОКТЯБРЯ 2026
ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF: новая модель в трендах Hugging Face
Рейтинги trending-image-text-to-text, место 10
Автор ISTA-DASLab
Ссылка https://huggingface.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF
Лицензия apache-2.0
Что это
GGUF-квантования базовой модели Qwen3.8-27B в четырёх размерах, полученные методами GSQ и RCO: каждому тензору назначается свой тип квантования по бюджету размера. В комплекте идёт vision-проектор (mmproj) для мультимодального использования. Файлы — стандартный GGUF, запускаются в llama.cpp, Ollama и LM Studio без изменений.
Данные из карточки
- Файлы: IQ2_XS 2.50 bpw / 8.4 ГБ, IQ2_S 2.75 / 9.3 ГБ, IQ3_XXS 3.00 / 10.1 ГБ, IQ3_S 3.50 / 11.8 ГБ, mmproj BF16 0.9 ГБ.
- IQ3_S — «task-lossless»: совпадает с базой на AIME25 (100.00) и LiveCodeBench v6 (85.71), отстаёт на 0.51 пункта на GPQA-Diamond (89.39) при размере в 4.6 раза меньше BF16.
- На matched размере 8.4 ГБ IQ2_XS опережает UD-IQ2_S на 10.00 пунктов AIME25, 8.59 GPQA-Diamond и 4.57 LCB v6.
- Опциональные сборки с суффиксом
-mtpнесут голову Multi-Token Prediction для спекулятивного декодирования; веса идентичны. - Релизы сопровождаются артефактами воспроизводимости: дампы аллокации типов по тензорам и importance matrix.