sweetback schrieb am 23.01.2025 19:31:
Ich habe gerade das 70 Milliarden Parameter Modell auf meinem M3 Max (40 GPUs, 64Gb RAM) Macbook installiert.
Ziemlich beeindruckend, aber es fehlt gelegentlich an echten Informationen und das Modell halluziniert.
Ich gratuliere, schön dass das erst mal funktioniert hat.
DeineMudder wartet aber noch bis nächstes Monat auf den HP Z2 Mini G1a mit AI Max+ PRO 395 Prozessor, der wird dann mit 128 GB RAM und einer 4TB Platte geordert, die physische Größe entspricht "ungefähr" einem Mac Studio, das Gewicht ist leichter, der Preis sollte zwar nicht gleich am Anfang gut sein wird aber trotzdem "etwas" niedriger als bei Deinem M3 Max Macbook oder einem (irgendwie) vergleichbaren Mac Studio sein.
Und 96GB werden dedizierter "KI-Ram", das soll sogar besser kacheln als 2 NVidia 4090 TI, nicht so wie die KI-Leistung von M4 Pro oder M3 Max.
Und zur Logistik: Der wird einfach irgendwo in die Ecke gestellt und DeineMudder kann, wenn absolut nötig, sogar mit einem "Fremdgerät" von überall aus darauf zugreifen und ihn steuern. Da gibts nämlich so eine Erfindung namens "Internet", man muss mittlerweile nicht mehr alles auf seinem Laptop laufen lassen. Glaube mir. Ich hab's ausprobiert. Das macht DeineMudder sogar im Home-Office vom allerbillgsten Rechner oder einem Internetcafe aus: VPN an - Remote-Desktop, arbeiten, gut is.
Und sei mal ehrlich: Hast Du kein Internet, dann hast Du kein Internet. Dann kannst Du so viel Rechenpower haben wie Du willst, arbeiten kannst Du deswegen trotzdem nicht, oder zumindest nicht "produktiv", oder ("produktiv") für die Firma etc. pp. .
Aber DeineMudder freut sich für Dich! Kudos!
Edith sagt: DeineMudder mag keine Rechtschreipfehler.
P.S.: BTW: Mein Festnetz-Internet zu Hause ist in den letzten 15 Jahren zwei mal für jeweils ca. 4 Stunden ausgefallen, da hätte ich auch übers Handy tethern können. Ich hab dann doch lieber diese Pausen genutzt.
Das Posting wurde vom Benutzer editiert (24.01.2025 02:53).