Ошибка при запуске Flux1 в Forge: несоответствие размеров тензоров

При попытке сгенерировать изображение с помощью модели flux1-schnell-Q2_K.gguf в интерфейсе Stable Diffusion Forge пользователи часто сталкиваются с ошибкой RuntimeError. В логе появляются десятки сообщений вида size of tensor a (4096) must match the size of tensor b (1344). Это указывает на несовместимость файлов текстового энкодера. В статье разберём причины и дадим пошаговое руководство по исправлению.

Почему возникает ошибка размеров тензора?

Модель Flux1 требует специальные файлы текстового энкодера T5XXL, совместимые с её архитектурой. Ошибка возникает, когда вы загружаете GGUF-версию энкодера (например, t5xxl-Q2_K.gguf), но Forge ожидает стандартный формат SafeTensors. Внутренние размерности слоёв у этих форматов различаются: у GGUF размерность 1344, а Forge пытается загрузить слой размером 4096.

Какие файлы нужны для Flux1 в Forge?

Для корректной работы Flux1 необходимо скачать три компонента:

• Основная модель: flux1-schnell-Q2_K.gguf (помещается в папку webui\models\Stable-diffusion).
• VAE: ae.safetensors (в webui\models\VAE).
• Текстовый энкодер T5XXL: обязательно в формате SafeTensors, например t5xxl_fp16.safetensors (в webui\models\text_encoder).
• CLIP-L: clip_l.safetensors (в webui\models\text_encoder).

Файлы GGUF (например, t5xxl-Q2_K.gguf) предназначены для других интерфейсов, таких как llama.cpp или KoboldCPP, и не подходят для Forge.

Пошаговое исправление ошибки

1. Удалите неверный файл t5xxl-Q2_K.gguf из папки text_encoder.
2. Скачайте правильный T5XXL: на Hugging Face найдите модель black-forest-labs/FLUX.1-schnell и загрузите t5xxl_fp16.safetensors (размер около 4,7 ГБ).
3. Проверьте CLIP-L: убедитесь, что файл clip_l.safetensors (240 МБ) присутствует и не повреждён.
4. Перезапустите Forge и убедитесь, что в интерфейсе отображаются все три компонента.
5. Запустите генерацию - ошибка должна исчезнуть.

Альтернативные причины и советы

Если после замены энкодера ошибка сохраняется, проверьте:

• Версию Forge: обновите до последней сборки, так как поддержка Flux1 появилась недавно.
• Объём видеопамяти: модель Flux1 требовательна к VRAM. Ваша карта P106-100 с 6 ГБ может работать нестабильно. Попробуйте уменьшить разрешение или использовать квантованную версию модели (Q2_K).
• Целостность файлов: перекачайте ae.safetensors, если VAE не загружается.

Заключение

Ошибка RuntimeError: size mismatch при запуске Flux1 в Forge решается заменой GGUF-версии текстового энкодера на SafeTensors. Используйте t5xxl_fp16.safetensors, убедитесь в наличии всех компонентов и обновите Forge. Если проблема остаётся, проверьте совместимость оборудования - для стабильной работы Flux1 рекомендуется видеокарта с 8+ ГБ VRAM.