P-F-S
Das bersonifiziere Pöse
- Registriert
- 26 Juni 2021
- Beiträge
- 781
- Erhaltene Likes
- 1.390
Ey Leute xD
Ich bin mal wieder total im "Ki-Hype" haha :-D
Also mehr oder weniger...
Bildgenerierung mit Invoke und Comfy ist spaßig...
Mittlerweile kann ich auch mit Comfy so nen paar 3D-Modelle geht auch ( und teils nicht unnütz xD )
Und zur Belustigung der Kinder kann ich per Comfy Ui auch das
Ein oder andere kleine Liedchen generieren xD
Bis auf die Bildgenerierung würde ich das aber alles noch "halbgar" nennen...
OpenWebUi in Kombi mit Llama ist auch ganz funny zum testen, aber grade hier merkt man dann schon, dass es eeeecht ne Menge Power braucht.
Aktuell bin ich bei meinem Unraid mit 5950x, 128Gb RAM und RTX 4070 12Gb bin ich nicht ganz schlecht ausgestattet xD
Bildgenerierung geht "schnell genug" ( und "groß" genug ), 3D Modellgenerierung "geht auch"... Aber LLM's... Joa das ist so nen Ding xD
So alles über 14b Modell ( und die sind schon nicht mehr so schnell weil grenzwertig ) ist dann Feierabend.
Dadurch komm ich halt immer wieder an den Punkt:
Upgrade? xD
Preis/Leistungstechnisch sehe ich den meisten Sinn in Ner 3090...
Hat 24Gb, bekommt man unter 1000 Euro... Die 4070 würde ich den den Wohnzimmer-PC stecken ( ist nur ne Ventus X2 und passt perfekt ins LianLi Dan4h2o ).
Jetzt kommen mir aber die Fragen in den Kopf...
Hat jemand schon nen Weg gefunden so ganz sexy SLI-Mäßig mehrere Grafikkarten zu "stapeln"? Also in z.B nem Unraid.
Denn so... Würde ich "einfach" ne zweite RTX 4070 rein knallen xD
Dann komme ich auch zumindest auf meine 24Gb... Macht nicht die Welt, aber immerhin
Jetzt noch zur weiteren Fragen:
Hat jemand schon Erfahrungen mit OpenClaw gesammelt?
Finde das Thema mega interessant.
Und mich reizt es extrem das Teil mal auf Ner VM laufen zu lassen...
Die Frage die sich mir hierbei stellt:
Kann ich, das Ding auch mit Ner lokal gehosteten LLM laufen lassen? Und wenn "ja" -> wieviel Sinn würde das überhaupt machen? xD
Denn das Teil mit Chatgpt oder whatever zu verknüpfen und da zu latzen ohne Ende... Also da hole ich mir doch lieber ne "dicke" 3090 xD
Ich bin mal wieder total im "Ki-Hype" haha :-D
Also mehr oder weniger...
Bildgenerierung mit Invoke und Comfy ist spaßig...
Mittlerweile kann ich auch mit Comfy so nen paar 3D-Modelle geht auch ( und teils nicht unnütz xD )
Und zur Belustigung der Kinder kann ich per Comfy Ui auch das
Ein oder andere kleine Liedchen generieren xD
Bis auf die Bildgenerierung würde ich das aber alles noch "halbgar" nennen...
OpenWebUi in Kombi mit Llama ist auch ganz funny zum testen, aber grade hier merkt man dann schon, dass es eeeecht ne Menge Power braucht.
Aktuell bin ich bei meinem Unraid mit 5950x, 128Gb RAM und RTX 4070 12Gb bin ich nicht ganz schlecht ausgestattet xD
Bildgenerierung geht "schnell genug" ( und "groß" genug ), 3D Modellgenerierung "geht auch"... Aber LLM's... Joa das ist so nen Ding xD
So alles über 14b Modell ( und die sind schon nicht mehr so schnell weil grenzwertig ) ist dann Feierabend.
Dadurch komm ich halt immer wieder an den Punkt:
Upgrade? xD
Preis/Leistungstechnisch sehe ich den meisten Sinn in Ner 3090...
Hat 24Gb, bekommt man unter 1000 Euro... Die 4070 würde ich den den Wohnzimmer-PC stecken ( ist nur ne Ventus X2 und passt perfekt ins LianLi Dan4h2o ).
Jetzt kommen mir aber die Fragen in den Kopf...
Hat jemand schon nen Weg gefunden so ganz sexy SLI-Mäßig mehrere Grafikkarten zu "stapeln"? Also in z.B nem Unraid.
Denn so... Würde ich "einfach" ne zweite RTX 4070 rein knallen xD
Dann komme ich auch zumindest auf meine 24Gb... Macht nicht die Welt, aber immerhin
Jetzt noch zur weiteren Fragen:
Hat jemand schon Erfahrungen mit OpenClaw gesammelt?
Finde das Thema mega interessant.
Und mich reizt es extrem das Teil mal auf Ner VM laufen zu lassen...
Die Frage die sich mir hierbei stellt:
Kann ich, das Ding auch mit Ner lokal gehosteten LLM laufen lassen? Und wenn "ja" -> wieviel Sinn würde das überhaupt machen? xD
Denn das Teil mit Chatgpt oder whatever zu verknüpfen und da zu latzen ohne Ende... Also da hole ich mir doch lieber ne "dicke" 3090 xD