Hardware-Tipps für Stable Diffusion | c’t uplink 47.8c
ฝัง
- เผยแพร่เมื่อ 6 เม.ย. 2023
- Um mit dem KI-Bildgenerator Stable Diffusion auf dem eigenen PC lokal Bilder zu generieren, sollte man eine Grafikkarte im Rechner haben. Carsten Spille hat getestet, was mindestens nötig ist und ob eine Highend-Grafikkarte den Unterschied macht.
Stable Diffusion ist Open Source, ihr könnt die Bilder-KI lokal auf eurem eigenen Rechner betreiben - ohne Cloud. Wie ihr die Installation hinbekommt sehr ihr hier: • Stable Diffusion auf d...
Und wie ihr das Webinterface bedient hier: • So bedient ihr Stable ...
Ohne GPU will man Stable Diffusion nicht betreiben. Das muss keine brandneue Gaming-Grafikkarte mit 12 Gigabyte RAM sein, Stable Diffusion läuft durchaus auf älteren Karten mit 4 Gigabyte Videospeicher. Das heißt, die meisten Karten, die ihr zum Zocken habt, sind mehr als ausreichend. Und wer bisher keine Gaming-Karte hatte, kann sich eine günstige, gebrauchte zulegen.
Carsten Spille vom Hardware-Ressort ist bei der c’t der Herr über den Schrank mit Grafikkarten. Den hat er zusammen mit Mirko Dölle und Liane Dubowy einmal ausgeräumt und alte wie neue Karten in die c’t-Testrechner gesteckt. Die drei erzählen in diesem Video, welche Hardware ihr für Stable Diffusion haben wollt und was sich wirklich lohnt. Den Artikel mit den Benchmark-Werten findet ihr hier: www.heise.de/select/ct/2023/9...
#stablediffusion #ki #hardware - วิทยาศาสตร์และเทคโนโลยี
dankeschön für diese wunderbaren inputs zum thema sd. ich habe mir die entsprechende c't bestellt und wäre ohne die infos von euch nicht so gut informiert, denn eigentlich habe ich von gaming pc's und grafikkarten 0,0 ahnung. ihr versteht es kompletten laien für diese hochtechnische themenwelt zu begeistern. das ist eine kunst und eure youtube videos pure unterhaltung.
Danke für die super Artikel- bzw. TH-cam-Reihe. Ein Tipp wäre auch einen Shadow PC in der Cloud zu mieten, wenn man nicht die richtige Handware besitzt. Da gibt es auch schon Artikel in der c’t darüber. Damit kann man ausprobieren, ob Stable Diffusion überhaupt richtig Spaß macht. 29,99€ im Monat und man hat eine Nvidia GeForce GTX 1080 zur Verfügung. 44,98€ im Monat und man hat gleich eine GeForce RTX A4500 mit 20GB zur Verfügung.
Der Tipp ist gut. Deswegen hatten wir bei unseren ersten Artikeln zu KI-Bildgeneratoren auch nur Clouddienste vorgestellt. Jetzt wollten wir die Infos nachliefern, wie Stable Diffusion lokal läuft. Jetzt, da das Netz so gut quantisiert wurde und auf viel mehr Rechnern läuft, lohnt es sich...
Würde eher bei Linode für 1,5 doller pro Stunde eine Quadro RTX 6000 buchen. Gibt natürlich auch andere Cloud Anbieter, aber deutlich mehr Leistung als das was ein Shadow PC bietet.
Danke schön. Nach 20 Jahren mit Konsolen muss ich mich jetzt wieder mal mit GraKas beschäftigen. Das waren gute Tipps
Super Serie. Sehr intessant. 👍
✌️
Die Moderatorin ist cool
Sehr interessant und unterhaltsam. 🙂
Ich hab ne rtx 3060 und hätte gern mehr... geht das irgendwie ohne arm zu werden?
Ich hab mir extra für SD die RTX3060 12GB gekauft und bin damit hoch zufrieden.
Als Podcast-Hörer muss ich sagen: Wir brauchen dringend mehr Folgen mit Liane - die perfekte Moderatorinnen-Stimme!
Vielen Dank!
Ich möchte mir eine nvidia-Grafikkarte RTX-3060 mit 12 GB kaufen und zusammen mit einem Laptop (LENOVO, WIN-10-64 bit, INTEL CORE i7-8550U, CPU @ 1,8GHz, 8,0 GB RAM, INTEL UHD Graphics-620 --- 2 X USB, 1 X HDMI) betreiben. Da brauche ich doch eine sog. BOX, oder? Wo kann ich eine komplette externe nvidia-Grafikkarte kaufen? Welche Voraussetzungen werden von den Eingängen meines Laptop verlangt? Es geht mir ausschließlich um die Nutzung von STABLE DIFFUSION und FOOCUS (keine Spiele). Ich möchte etwas "Stecker-fertiges kaufen. Freue mich über jeden Ratschlag - DANKE!
Erstmal schöner Beitrag, habe Ich mir gerne angeschaut.
Möchte hier aber nochmal erworbenes Wissen nach eigener Recherche und div. Test hinzufügen.
1. Schade, dass hier nicht auf Workstations GPUs eingegangen wird. Ich bin am Ende mit nur 250€ an eine RTX A2000 12 GB gelangt, die Ich als absoluten P/L Schlager Empfehlen kann.
Vorteil gegenüber der 3060 12 GB - die geringere Leistungsaufnahme von nur 70 Watt ( daher kein Power Connector vonnöten) bei nahezu gleicher Leistung.
Klar, die kostet neu weitaus mehr als ne 3060 - Kostenpunkt ca. 550€. Aber mit etwas Geduld kann man eine gebraucht zwischen 250 und 330€ ergattern und hat eine super leise, effiziente Karte.
Nonplusultra wäre eine RTX A4000 16 GB mit 130W TDP im SingleSlot Design, wer sich nicht scheut 500€ für ein gebrauchtes Modell auf den Tisch zu legen.
Darüber wären noch die ADA SFF Varianten, derzeit aber noch unbezahlbar.
2. Zu AMD Karten und Workarounds für Leute die nicht gerade die Kohle locker haben -
Ich habe einen Workaround gefunden, via DirectML auf einer RX 590 zu rendern, bis Ich das Geld für die RTX A2000 beisammen hatte.
Obendrein habe Ich im Treiber einen SAM (Smart Access Memory) Hack aktiviert, der die volle Ansteuerung der Speicherbandbreite ermöglicht. (Wird über Manipulation von Registry Einträgen erzwungen !)
Alles unter Windows 11. Also auch mit Polaris Karten kann man ganz ohne ROCm, Linux, Docker etc. Loslegen. Sogar mit Vega Karten praktikabel.
Kostet halt nur unverhältnismäßig Strom und dauert alles etwas länger. DirectML ist außerdem eine Speichersau, über 1024x1024 geht hier kaum was.
Zum Vergleich- die RTX A2000 schafft in der Zeit, die die RX590 für das Rendern eines 512x512 Bildes gebraucht hat, einen Batch von 8 Exemplaren bei 1/3 der Leistungsaufnahme.
Viel Spaß beim basteln ! :)
geht auch eine 1050ti oder beser über den laptop mit ner 3050ti mobile
Ja, gehen beide. Eins unserer Testgeräte war ein Ryzen-Laptop mit Nvidia RTX-3050Ti und 4 GB VRAM. Lief mit den Parametern "--lowvram" und "--xformers" prima.
super als einstieg. danke.
Wie sieht es aus mit einem Rechner mit mehreren Grafikkarten?
Derzeit wird nur eine Grafikkarte unterstützt, man könnte aber mehrere Instanzen von Stable Diffusion laufen lassen.
Läuft Stable Diffusion auch auf macOS?
Jupp, ab M1
@@No-no-no-no-nope Danke
Mit Sicherheit in einer VM
@@X25_Networking Finde ich aber suboptimal.
@@herberth. Wenn Python läuft, dann müsste es eigentlich auch gehen, solange die GraKa Treiber erkannt wird
Gefühlt werden jedes Mal AMD APUs ausgespart. Nun wurde sogar nach Intel iGPU und Intel CPU gefragt. Es wäre interessant zu hören, wie es um Ryzen APUs bestellt ist (zum einen ob GCN-GPU der 5. Generation funktionieren und zum anderen ob RDNA2 Ryzen einen signifikanten Vorteil böten).
Speicher ließe sich bei entsprechender RAM Ausstattung ja im BIOS/UEFI tonnenweise zuweisen...
AMD APUs nutzen für den GPU-Teil den gleichen Treiber, wie für dedizierte GPUs. Stable Diffusion sollte also mit ROCm funktionieren.
Genau diesen Gedankengang, der iGPU bei Bedarf "beliebig viel" Speicher aus dem Hauptspeicher zur Verfügung zu stellen, hatte ich auch. Deshalb habe ich auch mit einem AMD Ryzen 5700G und einem Ryzen 5600G getestet. Wäre ja auch eine super günstige Alternative zum teuren VRAM. Leider ist die iGPU (zumindest derzeit) nicht nennenswert leistungsfähiger als die CPU, das liegt auch an der deutlich geringeren Datentransferrate zum RAM im Vergleich zum schnellen VRAM einer Grafikkarte. Vielleicht wird das in Zukunft noch performanter, aktuell ist die iGPU leider keine Alternative zu GPUs mit eigenem VRAM.
@@Walker10474 Danke für deinen Erfahrungsbericht. Die RDNA2-Grafik der 7000er Ryzens ist ja um einiges schneller als die er 3000/5000er, aber wenn es an der Speicheranbindung hängen sollte, ist natürlich nicht mehr allzu viel Steigerung möglich.
Hast du gemessen, dass die Speicherbandbreite hier der Flaschenhals ist? Oder bestünde noch Hoffnung, dass die Ryzen 7000er signifikat schneller sind, weil es doch an der alten GCN-Architektur liegt...
@@ct.uplink Vielen Dank für die Rückmeldung! 🙂
@@dragonMF Ich mache mir nur wenig Hoffnung. Allerdings, DDR5-RAM ist auch wiederum schneller angebunden als DDR4, insofern werden die 7000er Ryzen sicher performanter sein. Der Abstand selbst zu älteren Grafikkarten ist aber so riesig, dass ich nicht glaube, dass die iGPUs eine Alternative sind.
vieles im video ist seit SDXL nicht mehr aktuell. 4 GB no way, 8 GB nicht empfehlenswert. 12+
Gaming Rechner mit Linux für den Kunst und Informatikunterricht, ComfyUI und gpt4all drauf und die Hausaufgaben sind in halber Zeit fertig! 🤣🤣🤣