Другое > Hard'n'Soft
Посоветуйте видеокарту для работы с нейросетями
(1/1)
Talking_Sword:
Для Stable Diffusion, прежде всего.
Сразу говорю, нужна не какая-то мощная и свежая видеокарта, а компромиссное и бюджетное решение среди Б\У, которое бы позволило хоть насколько-то "свободно" генерировать картинки на дому. Интересует, какой вариант был бы наиболее выгодный по деньгам? Пока что расчитываю на что-нибудь не дороже 10000 рублей. Пока думаю, возможно может стоит присмотреться к каким-нибудь "читерским" вариантам? Под "читерскими" имею в виду всякие "неигровые" видеокарты - типа тех, что предназначены для майнинга или для GPGPU. Вроде слышал, что у них цена на Б\У ниже, чем у "нормальных" относительно их мощности (та же вычислительная мощность за меньшие деньги). Но не уверен, на сколько это правда. Вроде бы это связано с тем, что народу все-таки больше интересны игры, а такие видеокарты изначально на них не расчитаны, нужны некоторые манипуляции (и возможно даже после них совместимость будет ниже, чем у "нормальных" видеокарт). Вот на Avito натыкался Nvidia P102-100, они вроде там продаются от 6 с небольшим тысяч. Нормальный вариант, или есть что-то повыгоднее?
На YouTube натыкался еще на такое:
Это Nvidia CMP 40HX, но правда у нее только 8 ГБ памяти, против 10 у P102-100, так что наверно P102-100 будет лучше.
Еще, думаю, 10 ГБ, по идее для SDXL достаточно, но вот относительно недавно выкатили уже Flux. Пока не пробовал, но наверно он все-таки должен быть лучше SDXL и наверно в ближайшем будущем стоит перейти на него. По крайней мере, после SDXL, Stable Diffusion 1.5 кажется уже не особо съедобным, возможно и с Flux будет подобная история. Но вот насчет того, будет ли хватать 10 ГБ для Flux уже не уверен.
На данный момент для работы с нейросетями использую онлайн-аренду рабочей станции. Но это очень неудобно, так как тарификация там по времени, а не по затраченным вычислительным ресурсам - даже если машина простаивает, то деньги все равно капают. А часто нужно бывает подупать над запросом и\или подкручиванием некоторых параметров. Конечно запрос(ы) лучше всего придумать перед арендой, чтобы не тратить время впустую, но часто бывает так, что придуманный запрос не работает как ожидалось и приходится его править по месту. Или например уже давно хотелось бы разобраться с ControlNet, но разбираться в условиях постоянной спешки крайне некомфортно, что просто опускаются руки.
К тому же, есть еще неудобство с хранением и копированием данных. Бесплатное место под хранение данных имеет ограниченный срок хранения, после чего данные могут быть удалены. Думал использовать FTP, чтобы копировать все нужные данные с арендованной машины на свой компьютер, а потом при необходимости копировать обратно. Но на практике почему-то скорость оказалась ниже, чем если то же самое скачивать напрямую с Civitai. Тоже неудобно, что через некоторое время приходится перекачивать все по новой. К тому же, на копирование данных тратится то же самое арендное время, что невыгодно.
Просадил на аренду уже 500 рублей, но не сказал, что сгенерировал много чего-либо стоящего. Мне кажется, если так дальше продолжать, то можно довольно быстро истратить сумму, которой бы хватило на покупку компромиссно-бюджетной Б\У видеокарты.
Zykon:
Talking_Sword, ну если как компромис то взять что-то из 30 серии 3060 на 12гб или 3080
Томахомэ:
У разных нейронок - разные требования. RVC-GUI, например, и на 1050 Ti неплохо идёт.
Ogr:
--- Цитата: Zykon от 20 Март 2025, 16:27:11 ---ну если как компромис то взять что-то из 30 серии 3060 на 12гб или 3080
--- Конец цитаты ---
--- Цитата: Talking_Sword от 19 Март 2025, 09:39:46 ---что-нибудь не дороже 10000 рублей.
--- Конец цитаты ---
Zykon, Ну что, подгонишь 3060 на 12гб не дороже 10000 рублей для компромисса? ;) Я бы от такого компромисса тоже бы не отказался… :lol:
Dyons:
--- Цитата: Томахомэ от 20 Март 2025, 16:51:16 ---У разных нейронок - разные требования. RVC-GUI, например, и на 1050 Ti неплохо идёт.
--- Конец цитаты ---
у всех нейронок требование одно, чем больше ВРам, тем лучше
Zykon:
Ogr, ну за 10000 пусть автор мечтает дальше :lol:
Ogr:
--- Цитата: Zykon от 20 Март 2025, 18:48:04 ---ну за 10000 пусть автор мечтает дальше
--- Конец цитаты ---
Ну это как бы не автор захотел купить 3060 на 12гб за 10000р. Это ты в конкретный указанный автором лимит в 10000р, предложил купить 3060 на 12гб. ;)
Talking_Sword:
--- Цитата: Zykon от 20 Март 2025, 18:48:04 ---ну за 10000 пусть автор мечтает дальше :lol:
--- Конец цитаты ---
Как мне кажется, возможно вы просто немного не в теме и считаете, что для всяких нейросетей обязательно RTX. Так то можно генерировать изображения и на GTX 1080 Ti, проверял лично. И знаю одного пользователя с Old-Games.RU, который для этих целей использует GTX 1660 Super на 6ГБ, тоже вполне успешно.
Я присматривался к Nvidia P102-100 и вопрос был больше про то, что за ее цену (Б\У) ничего лучше нет? По крайней мере, при беглом поиске на Авито GTX 1080 Ti за 6 с небольшим тысяч рублей вроде не нашлось. А Nvidia P102-100 - версия GTX 1080 Ti (вроде бы) для майнинга.
А еще один возникший у меня вопрос, нормальная ли цена в 6 с небольшим тысяч рублей для P102-100, или они "нормальные" (Б\У, естественно) стоят дороже, а за такую цену скорее всего будут с "подвохом"?
Ogr:
--- Цитата: Talking_Sword от 22 Март 2025, 02:16:35 ---нормальная ли цена в 6 с небольшим тысяч рублей для P102-100, или они "нормальные" (Б\У, естественно) стоят дороже, а за такую цену скорее всего будут с "подвохом"?
--- Конец цитаты ---
На авитая GTX 1080 Ti 11GB как рабочие продаются начиная от 14000. Но естественно без возможности проверки ничего брать не стоит.
Talking_Sword:
А есть ли какой-нибудь способ экспресс-тестирования для таких "неигровых" видеокарт?
Lost Soul:
По своему опыту скажу так, МИНИМУМ что стоит брать это от 2060 super, лучше 3060 на 12гб. Желательно смотреть от 4060ti 16 gb, 4070 12 gb. Все что меньше, это боль та еще и ждать по пол часа хренового результата, такое себе удовольствие. С нейрнками локальными баловаться надо на хорошем железе, а если уж с ними прям работать, то там нужно ОЧЕНЬ хорошее железо.
Ogr:
--- Цитата: Lost Soul от 24 Март 2025, 12:14:50 ---Все что меньше, это боль та еще и ждать по пол часа хренового результата, такое себе удовольствие. С нейрнками локальными баловаться надо на хорошем железе, а если уж с ними прям работать, то там нужно ОЧЕНЬ хорошее железо.
--- Конец цитаты ---
На бюджетной видеокарте 13 года - GTX 750 Ti, 6 гиговая сдхл модель, в 500х500 с нормальным результатом за 4 минуты 22 секунды:
Mad:
Ogr, против 8 секунд у 4060 :)
Ogr:
Mad, Это не полчаса, и не хреновый результат, что бред.
Dyons:
--- Цитата: Ogr от 24 Март 2025, 12:39:59 ---Mad, Это не полчаса, и не хреновый результат, что бред.
--- Конец цитаты ---
а теперь поставь норм разрешение и будешь ждать пол часа :lol:
Ogr:
--- Цитата: Dyons от 24 Март 2025, 12:41:38 ---а теперь поставь норм разрешение и будешь ждать пол часа
--- Конец цитаты ---
а можно использовать модель сд1, и ждать в несколько раз меньше стем же результатом.
s1nka:
--- Цитата: Dyons от 24 Март 2025, 12:41:38 ---а теперь поставь норм разрешение и будешь ждать пол часа
--- Конец цитаты ---
А зачем домой генерить тонны картинок по 5 секунд? Бюджетно можно и полчаса подождать, зато 750Ti стоит копейки. Тогда в целом можно советовать 5090 всегда. Лучшее решение. Или лучше NVIDIA H200 с 140Gb VRAm и тензорными ядрами. В бюджет конечно 10к не влезть, но накопить можно
щербаков5:
Бюджет до 1Оооо:
- GeForce GTX 1060 6 Gb (перед НГ свою продал даже дешевле)
- GeForce GTX 1070 G1 Gaming 8 Gb
- Quadro P1000 4 Gb
- Radeon RX 5500 XT 8 Gb
- Radeon RX 6500 XT 4 Gb
Средние предложения на вторичке - как раз на неспешное "попробовать".
А про 750 Ti лучше забудь - очень медленная карта на сегодняшний день. Был её аналог 660 - ни рыба, ни мясо даже на 2018-ый год.
Навигация
Перейти к полной версии