Ich habe gerade das 70 Milliarden Parameter Modell auf meinem M3 Max (40 GPUs, 64Gb RAM) Macbook installiert.
Ziemlich beeindruckend, aber es fehlt gelegentlich an echten Informationen und das Modell halluziniert.
mehr als 1000 Beiträge seit 02.05.2001
Ich habe gerade das 70 Milliarden Parameter Modell auf meinem M3 Max (40 GPUs, 64Gb RAM) Macbook installiert.
Ziemlich beeindruckend, aber es fehlt gelegentlich an echten Informationen und das Modell halluziniert.