固然这个技巧具体是啥没颁布,但已经有AI范畴的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应当不会陌生,V4价格能这么低的原因就是KVCache应用到了极致。

内存缺货因AI而起,最终解决还得靠AI本身,想要削减内存用量就得优化内存架构,OpenAI分拆出来的一个团队在这方面已经取得了重大年夜冲破,主如果内存效力方面的,技巧很快会宣布。

AI技巧重大年夜冲破:内存涨价将遇狙击 内存用量大年夜降

OpenAI的这个技巧冲破有可能也是在这方面作文章,既然内存又贵还缺货,那就削减对内存的须要,将数据放到容量更大年夜、价格更低的NAND闪存芯片上。

AI技巧重大年夜冲破:内存涨价将遇狙击 内存用量大年夜降

AI技巧重大年夜冲破:内存涨价将遇狙击 内存用量大年夜降

这个技巧最终大年夜范围安排的话,那么AI算力中间对内存的用量肯定会大年夜幅削减,内存缺货、涨价的动力就严重受限了。

假如再接洽到业界此前在研究的HBF闪存,OpenAI很有可能此次会把这种高机能闪存推向实际安排,固然延迟、写入速度上还无法跟HBM内存比拟,但1638GB/s的读写带宽跟HBM4是一样的。

然则坏消息是这可能会加快闪存的涨价,只不过闪存本身的价格比内存低很多,衡量之下肯定照样优先削减内存用量。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部