Gregon написал(а):(#988)
ТЫ ТУ ЖЕ МОДЕЛЬ ЧТО И Я ЗАПУСКАЛ
Я скачал Z-image-Turbo уменьшенной версии на 3,7 ГБ и запускал на stable-diffusion.cpp на процессоре с размером картинки 256x256 и количеством шагов 10, и при этом пришлось ждать 10 минут пока сгенерируется. Но 16ГБ оперативки мне хватило с запасом, видимо из-за того что скачал уменьшенную версию. Но на ComfyUI такую версию запустить не получится, т.к он не поддерживает формат GGUF
Удивительно. Даже одну и туже модуль использовали. У меня генерируются картинки где-то за минуту с небольшим. На сколько понимаю, там производительность зависит больше от видеокарты и памяти на ней. Скорее всего, модель сначала загружается в оперативную память, а потом подгружается на видео карту, где на ядрах CUDA рассчитывается. Во время генерации не наблюдал большой загрузки ЦП. А какая у тебя видеокарта? Команда интересная. Надо глянуть. Но с Comfy можно управлять нодами для более гибкой настройки конвейера.
Gregon написал(а):(#988)
У тебя значительно лучше компьютер чем у меня, картинка 800x608 пикселей, большой размер модели, судя по качеству намного больше шагов
А Grisshink на своей видеокарте NVIDIA GeForce GTX 1070 и процессоре AMD Ryzen 5 5600G (12) @ 4.464 GHz запускал FLUX (я характеристики узнал со скриншота с neofetch-ем)
У меня игровой ноутбук Asus TUF Gaming F16 (видеокарта Nvidia GeForce GTX 5060(8 ГБ), процессор Intel Core i5-13450HX(10/16), ОЗУ 16 ГБ). Специально брал под подобные задачи и компьютерную графику.
А у Grisshink какие результаты получились на FLUX? Там модели по 30 ГБ, не знаю как это все будет работать на моей конфигурации. Надо пробовать. Как освою, можно будет на сервере попробовать большие модели запустить. Но времени не очень много.
Забавный факт
