AI民まとめ
Macで120BローカルLLMを動かしたら?「読む速度より速い」にツッコミ
120Bを動かした実感
M5 Max 128GbにNVIDIAのNemotron3.5 Super VL 120B入れてみたけど凄く良いこれ
プロンプトで縛らなくても挙動が素直で使いやすい、ネット繋げて使ってるけどチャットも使えるレベル
中国モデルは怖くてネット接続できないから、QwenやDeepSeekの替わりはこれだな
同じ120BでもGPT OSS 120Bはちょっと古いせいかイマイチ賢さを感じない
METAのMuse Glimmer 30Bとかも入れてみたが、マルチ推論とかでもう少し使わないとわからん
適当に色々入れてみただけなので詳しい事は、もっと長く使わにとわからんけど面白い
>>8
私も128GBのStudio購入検討しているので興味深いです。(現在は64GBのminiを使っています)
今後、使用してみてのレポートもぜひ教えてください
>>9
素人意見ですが、何か気がついた事があれば書いてきます
買う前悩んだメモリ帯域ですが、MAXでも結構早いです、ultraだとこれの2倍だから超速そう
メモリ帯域もmini 64Gbからだと2倍の帯域になるから早く感じると思います
体感速度は何で決まる?
使っててそれは体感できるものなのか?
>>11
体感的には自分で読む速度よりもどれだけ早く文字が表示されるかだと思う
それと前にメモリ少ない環境で使っていたQwen3.8-Flash-Nextと比べる体感かな
数値的にはM5Max614GB/sだからM5pro(307GB/s)の2倍でultra(1.2TB/s)の半分の帯域
なんだよどれだけ文字が表示されるかどうかってw
ディスプレイの性能でも測ってんのか?
💬 AI民コメント (0)
この記事について話す