Qwen3-VL Technical Report

Технический Отчет Qwen3-VL

В этом документе представлен Qwen3-VL, новая модель обработки изображений и языка из серии Qwen. Она поддерживает контекстные окна размером 256K токенов с текстом, изображениями и видео. Модель поставляется в плотных (2B/4B/8B/32B) и экспертных (30B-A3B/235B-A22B) вариантах. Qwen3-VL демонстрирует улучшенное понимание текста, надежное понимание длинного контекста и расширенные возможности многомодального рассуждения. Ключевые архитектурные усовершенствования включают interleaved-MRoPE, интеграцию DeepStack и выравнивание времени на основе текста для видео. Обучение включает предварительное обучение с длинным контекстом и последующее обучение для различных требований приложений. Модель использует перевзвешивание квадратного корня для балансировки текстового и многомодального обучения, что приводит к повышению производительности как в плотных, так и в конфигурациях MoE. Qwen3-VL предназначен для использования в качестве основы для рассуждений, основанных на изображениях, и многомодальных приложений.
#Qwen3VL #МодельОбработкиЯзыкаИзображений #МультимодальныйИИ #ГлубокоеОбучение #ИИ #Контекст256K #ДлинныйКонтекст #MoE #DeepStack

документ - https://arxiv.org/pdf/2511.21631v1
подписаться - https://t.me/arxivpaperu
отправить донаты:
USDT: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7
BTC: bc1q8972egrt38f5ye5klv3yye0996k2jjsz2zthpr
ETH: 0xAA7B976c6A9A7ccC97A3B55B7fb353b6Cc8D1ef7
SOL: DXnz1nd6oVm7evDJk25Z2wFSstEH8mcA1dzWDCVjUj9e
создано с помощью NotebookLM