固然这个技巧具体是啥没颁布,但已经有AI范畴的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应当不会陌生,V4价格能这么低的原因就是KVCache应用到了极致。
内存缺货因AI而起,最终解决还得靠AI本身,想要削减内存用量就得优化内存架构,OpenAI分拆出来的一个团队在这方面已经取得了重大年夜冲破,主如果内存效力方面的,技巧很快会宣布。

OpenAI的这个技巧冲破有可能也是在这方面作文章,既然内存又贵还缺货,那就削减对内存的须要,将数据放到容量更大年夜、价格更低的NAND闪存芯片上。


这个技巧最终大年夜范围安排的话,那么AI算力中间对内存的用量肯定会大年夜幅削减,内存缺货、涨价的动力就严重受限了。
假如再接洽到业界此前在研究的HBF闪存,OpenAI很有可能此次会把这种高机能闪存推向实际安排,固然延迟、写入速度上还无法跟HBM内存比拟,但1638GB/s的读写带宽跟HBM4是一样的。
然则坏消息是这可能会加快闪存的涨价,只不过闪存本身的价格比内存低很多,衡量之下肯定照样优先削减内存用量。

发表评论 取消回复