AI能让内存涨价也能大降价:优化代码直接降低15倍内存用量
快科技9月12日消息,这一轮内存价格大涨5-10倍的根本原因就是AI需求,涨价至少还会持续到27、28年,完全期望内存产能增长来推动内存降价是不可能的,还得回到AI身上来。AI需求带动内存用量大涨是因为AI算力在爆发,一旦AI能够大面积替代人力的时候也会产生意想不到的技术进步,OpenAI日前就介绍了一个例子,是他们的在线存储平台Habitat。
Habitat之前的服务依赖Python,每年业务增长率超过10%,峰值期间每秒处理超过2000万个请求,为此OpenAI转向了Rust代码。以往底层重构需要很多人很多时间的资源投入,现在OpenAI只投入了2个工程师,在Codex及GPT-5.5的辅助下完成了Habitat全量服务的Rust重构。
目前Rust已经承担了95%的生产流量,Python服务即将全面退役,而且这还带来了2倍的CPU效率提升,以及15倍的内存开销节省。以往需要大量人力物力才能做到的优化,现在有了AI可以只用很少的工程资源就能快速改进,这不仅是减少了投入成本,也把CPU、内存的效率大幅改进了,意味着对硬件的需求也会降低。
虽然这个例子不能推导到所有硬件平台上,但AI一旦全面利用起来,效率比人力还高,还能大幅减少硬件资源的投入,这对三星等公司一直渲染AI导致内存持续涨价的叙事可就不利了。

AI能让内存涨价也能大降价:优化代码直接降低15倍内存用量
【本文结束】出处:快科技