更荣幸的是他还表示,因为比来内存价格飙升,这台办事器中配备的960GB LPDDR5X内存的市价,就已经跨越他付出的整机价格。
假如购买全新,这套体系价值至少高达80000美元以上(约人平易近币56.44万元),David Noel Ng指出,仅个中一块NVIDIA H100芯片的价值就约3-4万欧元。
这台办事器的核心设备堪称豪华:
双NVIDIA Grace-Hopper GH200超等芯片:每个配备72核ARM CPU和480GB LPDDR5X内存,Hopper H100 GPU和96GB HBM3显存
经由过程NVlink C2C实现900GB/s的高带宽连接
3kW电源
双PCIe Gen4 M.2 22110/2280插槽

卖家泄漏,以低价出售的原因是体系状况不佳,它从液冷改装为风冷,且无法安装在标准的办事器机架上。

但David Noel Ng照样决定亲自驾车前去卖家处检查,确认卖家信用优胜后,他将体系带回家,随落后行了一系列沉重的修复工作,包含彻底干净、从新安装水冷设置,并解决了导致办事看重复崩溃的故障温度传感器。


修复后的体系机能令David极为知足,他高兴地表示,他如今可以在家运行235B亿参数的大年夜模型,而总成本却低于购买单块H100显卡的费用。

发表评论 取消回复