Gepostet 4 Februar 2024

Welche Specs für Notebook um möglichst viel aus lokal gehosteten KIs rauszuholen

Hallo liebe Hardware und KI kenner,
ich bin am Überlegen, mir ein Notebook zu kaufen. Das Einsatzgebiet wäre:
- VMs möglichst performant laufen lassen
- KI Modelle lokal entwickeln und testen
- Linux als Host Betriebssystem
Welche Mindestspecs würdet ihr hierfür empfehlen? Welche Gewichtung bei Prozessor/Ram/Vram? Wie viel müsste ich mindestens ausgeben?
Gerne auch mit Beispiellinks für entsprechende Geräte mit passenden Konfigurationen oder laufende/abgelaufene Deals die ihr hierfür empfehlen würdet.
Vielen lieben Dank euch:)
Zusätzliche Info
Sag was dazu

24 Kommentare

sortiert nach
's Profilbild
  1. Ezekiel's Profilbild
    Die Fragestellung ist viel zu unspezifisch.

    Was soll in den VMs laufen (tatsächlich Mehrzahl?)?
    Welche KI-Modelle? Muss das tatsächlich lokal sein? Welche Größe ist erwartbar? Würden die Algorithmen von einer GPU profitieren? Ist eine externe GPU denkbar?

    Das sieht mir mal wieder nach einer Frage der Kategorie "keine Ahnung was ich vorhabe, ich frage mal irgendwas. Wenn ich keinen richtigen Empfehlungen bekomme: auch egal, ich melde mich eh nie wieder" aus. (bearbeitet)
    Damant's Profilbild
    Autor*in
    Da das Notebook fürs Mint Studium eingesetzt wird, soll es möglichst breit genutzt werden. Die VMs sollen zum Testen von Linux Distributionen im Rahmen der Erfüllung von Hausarbeiten genutzt werden. Ki Anwendungen wie zum Beispiel Alpaka Llama oder Visual ChatGPT. Diese beiden habe ich auf meinem bisherigen Laptop am laufen gehabt, wegen Limitationen im RAM und ohne dedizierter Grafikkarte waren die Ergebnisse ernüchternd. Im KI Bereich möchte ich einige der Modelle aus Huggingface im Bereich der Chatbots sowie stable Diffusion für die Bildbearbeitung (mit vernünftiger Performance/Ergebnissen) testen können. Mir ist bewusst, dass hierfür eher ein Desktop Rechner geeignet wäre oder gleich in der Cloud mit AWS aber stationär fällt leider raus und Cloud ist keine Option. Ich hoffe ich konnte meine Frage etwas konkretisieren(angel)
  2. besserweisser's Profilbild
    Wenn du dich schon mit ki beschäftigen willst, könntest du diese doch einfach Mal fragen?

    Ansonsten viel RAM, viel CPU, viel GPU - je nach Budget und Anforderung.