科技

AI

396 篇文章

如何估算地端AI部署:從模型參數到總成本

Apple列出Mac mini、Mac Studio與叢集可承載的模型規模,但參數數字不等於速度或採購保證。從記憶體、量化、上下文與叢集維運,掌握地端AI試跑和總持有成本估算方法。

張饒輝 Lightman Chang 17 分鐘