PC für Einsteiger LLMs / KI eher keine Spiele

[StockerFr]

Hallo zusammen,

ich möchte LLMs wie Mistral, Llama & Co lokal auf einem PC laufen lassen. Ich habe nicht viel Ahnung von den aktuellen Komponenten. Letzter PC vor ca. 20 Jahren zusammengebaut. Daher suche ich hier Unterstützung beim Check, ob alles passt.

Budget
- Wie viel möchtest du maximal ausgeben? <1500
- Bezieht sich dein Budget nur auf den PC selbst, oder benötigst du noch andere Teile wie Monitor etc.? nur PC, Monitor, Tastatur, Maus ist vorhanden
- Schon bestimmte Teile vorhanden die nicht berücksichtigt werden müssen? Nichts vorhanden

Einsatzzweck
- Was möchtest du mit dem PC genau machen? LLMs, Machine Learning, Softwareentwicklung, Virtualisierung (Docker), eher keine Spiele (aber nicht ausgeschlossen)
- Falls es ein Gaming PC ist, welche Spiele möchtest du hauptsächlich spielen? früher gerne AoE gezockt ;-)
- Auf welchen Einstellungen und mit wie viel fps sollen die Spiele laufen? --
- Welche Auflösung und Bildwiederholrate wird genutzt? HD, keine besonderen Anforderungen
- Welche anderen Programme benutzt du häufig wie z.B. Adobe Premiere oder Photoshop? Office, IntelliJ, PyCharm

Besondere Anforderungen
- Wie soll der PC aussehen? Welches Case gefällt dir z.B. gut fast egal
- Besondere Anforderungen: Mini System, Silent System, RGB Beleuchtung? kein Leuchten nötig
- Soll der PC schon zusammengebaut sein oder willst du ihn selbst zusammenbauen? selbst zusammenbauen
- Wie viel Festplattenspeicher benötigst du? 1TB (hab noch NAS

ich habe mir mal was zusammengestellt, das wären so die Eckdaten, wie ich mir das vorstellen könnte: https://geizhals.de/wishlists/3842122
Bin nicht sicher, ob das alle so zusammenpasst.

Vielen Dank!

VG
Frank

 

[relevanz]

Servus Frank,

ich würde anders bauen.
Wir haben selbst in der Uni mal diverse Python Bibliotheken verwendet.
In der Regel laufen LLMs eher auf GPUs (hier ist Nvidia auch deutlich besser) und weniger auf CPUs.
Deswegen sollte hier auch der Fokus liegen.

Ich würde mich an diesem PC hier orientieren und die GPU auf eine 4070 Ti switchen.

Bester 1500€ Gaming PC - 2024 | HardwareDealz

Bester 1500 Euro Gaming PC 2024. Günstig kaufen & Test. Gaming PC bis 1500€ zusammenstellen! ✅ Immer aktuell!

www.hardwaredealz.com

LG
relevanz

 

[StockerFr]

Hallo relevanz,

danke für den Tipp. Ausgehend von den Bauteilen im Vorschlag habe ich noch mal durchgeplant und bin zu dem Schluss gekommen, dass ich meine Anschaffung zweigeteilt machen werde.

Erstmal wird es ein besserer Office/Developer PC mit iGPU und später hätte ich die Möglichkeit die NVIDIA Karte nachzurüsten.

Ich habe noch bissel gelesen zu AMD, KI und ROCm... das scheint noch nicht so der Knaller zu sein (bzw. nur bei High-End-Karten).

Mit der zweiten Wunschliste https://geizhals.de/wishlists/3842769 habe ich die neue Planung abgebildet. Summe ist noch mal günstiger, damit schneller wieder Luft ist, um die GK auch noch dazu zu holen... 1900€ sind mir aktuell zu viel auf einmal.

Was mich echt fordert sind die ganzen Hardware-Specs (Taktung, Schnittstellen, Timings, ...). Schaust du (oder ein weiterer Leser) mal bitte drüber, ob das so passen kann?

Viele Grüße

Frank

 

[relevanz]

Das passt so.

Die Wärmeleitpaste kannst du weglassen, auf dem Kühler ist bereits Wärmeleitpaste aufgetragen.
Der 7900X passt auch, PyCharm kann grad beim Indexing sehr CPU-Intensiv sein.

Ich würde dann wie gesagt mindestens eine 4070 TI oder vielleicht sogar die 4070 Ti Super (Die hast du gerade drin holen)
Das sind 2 Unterschiedliche Varianten.

 

[StockerFr]

Das passt so.

Die Wärmeleitpaste kannst du weglassen, auf dem Kühler ist bereits Wärmeleitpaste aufgetragen.
Der 7900X passt auch, PyCharm kann grad beim Indexing sehr CPU-Intensiv sein.

Ich würde dann wie gesagt mindestens eine 4070 TI oder vielleicht sogar die 4070 Ti Super (Die hast du gerade drin holen)
Das sind 2 Unterschiedliche Varianten.

danke fürs prüfen und die Tipps