Ускоряем время генерации изображений в 3 раза с помощью xformers

Полезные ссылки:
github.com/AUTOMATIC1111/stab...
pypi.org/project/xformers/

[@oskarbest964]

Интересное видео, надо будет завтра попробовать! Спасибо за подробный обзор!

[@PabloDiff]

Спасибо тебе большое, единственное видео которое помогло решить проблему

[@user-sq1bs7nl1w]

Прекрасно, действительно работает!

[@savraraev9788]

на видеокарте 4060 ti 4 картинки фулл хд 1 минута 14 секунд. с таким же промтом. Но ключи использовал другие. --opt-sdp-attention

[@ggenius78]

Приветствую, все сделал по вашему гайду, не взлетает xformers, карточка 4060, проц старый(без поддержки той самой avx 2) fx 8350 ( аааа памагите всю голову сломал)

[@MamedovInfo]

Странно. Должна быть прибавка в скорости. Вы же сами видели. Они точно подключены? Вниз промотайте страницу - там должно быть указано. Никаких ошибок нет?

[@ggenius78]

@@MamedovInfo дайте вк или еще что нибудь (скрины кинуть)

[@digor72noname86]

Сделал как ты и говорил - все заработало! Только осталась одна проблемка. Не работал GFPGUN. Генерация выдавала лица уродов. Почитал на гите, установил GFPGUN и его модели. Он попросил обновление некоторых служб. Обновил. Только теперь слетели xformers, а GFPGUN заработал - несовместимость версий.Не работают они с друг другом в последних версиях... Может что подскажешь? Благодарю

[@SAM-LISBETH]

Расскажи про установку и запуск CUDA в SD, сама установка cufda toolkit есть, но про запуск в SD ни слова

[@mixam2]

Не надо повторно вводить промт после перезагрузки,Синяя кнопочка под Generate возвращает все настройки.

[@Viktor_.]

Так он же сам ставит, если в commandline написать --xformers. Я так делал, но я досконально не разбираюсь. Для чего скачивать xformers отдельно? Он, кстати, в итоге же все равно сам другую версию поставил. Получается все шаги, кроме как прописать --xformers в батник, для установки xformers не нужны. Или я что-то упускаю?

[@MamedovInfo]

Речь о том, что изначально они не прописаны в батнике. А с ними гораздо быстрее, если у вас нвидия.

[@KonstantinIssaenko]

сделал по инструкциям, работает, НО теперь больше нагружает процессор, даже обидно что память карты теперь мало используется, специально покупал А4000 16гб

[@-vileon-3294]

Ну разница видна, как говорится на лицо(сейчас как то пошло звучит😂) Ну это на больших объёмах, а на малых? Те же 768х768?

[@MamedovInfo]

На малых разрешениях разница будет видна при одновременной генерации большого числа изображений.

[@MrRomanVasin]

В данном случае "налицо" пишется вместе, то наречие, а не куда кончают всякие там... )))

[@-vileon-3294]

@@MrRomanVasin ага так и запишем

[@arfanon]

для какой нейросети, для фокус?

[@motion4ik]

Как запустить open git bash here перед тем как ты вписал туда скачивание xformers?

[@MamedovInfo]

Если git установлен, то правой кнопкой мыши в папке и в контекстном меню есть этот пункт.

[@everybodydice]

Неплохо, где-то до 20 итераций в секунду поднялось. Где 3070 откопал?

[@MamedovInfo]

Я же тебе рассказывал. БУ это. Но вроде норм. Свою продал и чутка добавил.

[@everybodydice]

@@MamedovInfo Точно, я помнил про проц только. Ну ладно, на 30 серии так и так не успели бы много намайнить

[@stillwutschneider6002]

Завидно, блин, у меня одна итерация в 1,2 секунды..

[@MamedovInfo]

@@stillwutschneider6002 Какая видеокарта?

[@stillwutschneider6002]

@@MamedovInfo я гордый владелец доблестной 1660-й от нвидии. Не ti, не super. 6Гб...

[@alemazimkhanov2040]

У меня проблема. Я вижу, что у автора видео при запуске StableDifusion видеопамять возрастает немного. А у меня выше крыши , до предела и это еще я не начинал генерировать. Что делать ? И в целом, что это?

[@MamedovInfo]

Только в Автоматик или в Фооокус тоже?

[@alemazimkhanov2040]

@@MamedovInfo Спасибо что ответили оперативно. В видео , где ускоряете генерацию в 10 раз ( на самом деле 9 ) , помог метод который вы сказали на счет Куда политики и что то подобное. Но есть одно но! Теперь у меня RAM выше крыши. Да , генерация улучшилось, спасибо, но зато теперь с моим. 16 гб оперативкой хрен что по открываешь вместе со Стейбл. Странная ситуация, в начале когда я включил эту функцию, пайтон занимал 40% ОЗУ , затем я поменял модель и потом обратно , перезагрузил Стейбл и БАЦ! 90% теперь занимает в ОЗУ. Ничего не делал , даже генерацию не включал. Она сама по себе то скачет, то не скачет. Что за дела? И да , это автоматик ( я использую его, так как считаю его наиболее удобным )

[@MamedovInfo]

@@alemazimkhanov2040 Для подобных задач требуются хорошие ресурсы. Как вариант, попробуйте начать всё с начала. Да, это не очень быстрый вариант, но зато по шагам сможете понять, в какой момент начинаются эти трудности. Я обычно делаю так.