
(文 / 不雅察者网 吕栋 裁剪 / 张广凯)欧洲杯体育
8 月 25 日,不雅察者网获悉,华为将于 8 月 27 日推出新款 AI SSD(固态硬盘),这种硬盘并非用于个东说念主电脑中的滥用级 SSD,而是用在大模子闇练和推理的数据中心中。
知情东说念主士对不雅察者网称,华为推出新款 AI SSD,旨在破解 AI 闇练推理中的"显存墙"辛劳。传统 HBM(高带宽内存)存在容量结果,而华为通过本事鼎新提供大容量 SSD,同期普及数据蒙胧成果,可大幅普及算力卡成果,为 AI 诈骗提供更强撑执。
单纯看这一音讯可能不太好相识,但伙同华为近期在数据存储限制的动向,就不丢脸出,华为是想通过软硬两手,缩小对高性能 HBM 的依赖,让可取得的 HBM 更高效弘扬作用,同期也能普及 SSD 的价值。
当下,国产 DRAM(动态飞快存储器)和 HBM 还与外洋存在代际差距,同期好意思国还对 HBM 的出口和制造进行严格束缚,关联词国产 NAND 闪存本事一经取得长足发展,国产滥用级和企业级 SSD 的竞争力明显普及。
淌若能减少高性能 HBM 的使用,充分弘扬 SSD 的作用,就能一定进度缩小模子闇练和推理的资本,缓解中国 AI 产业界对高性能 HBM 的依赖,是另一种"系统补单点"的念念维。
就在前不久,华为曾推出一项名为 UCM(推理挂牵数据处置器)的本事。这种本事不错凭据挂牵热度,在 HBM、DRAM、SSD 等存储介质等分级缓存数据,格外于现实了 HBM 的容量,让模子能记取的 KV Cache 数据更多,同期能更智能、更快速的调用数据。
KV Cache 不错优化策画成果、减少重叠运算,但会对 HBM 显存变成雄壮压力,而 UCM 的要道作用等于平缓 HBM 压力,让 SSD 在闇练和推理中弘扬更大作用,这可能亦然华为很快又推出新款 AI SSD 的原因。
"华为这次布局,或对众人 SSD 阛阓形成冲击。"前述东说念主士对不雅察者网称,伙同华为自研 XtremeLink、SpeedFlex PCB 等本事,成为国产 SSD 冲破的要道一步。华为将与国内训推一体机厂商互助,成心于中国构建全新 AI 生态链,应答众人化挑战。
" AI SSD 聚焦普及闇练就果和推理体验 , 存储器限制不会仅有 HBM 价值千金欧洲杯体育,有望形成百花王人放的竞争态势。华为策划与一体机厂商互助,蜕变现存形式,为 AI 存储器阛阓注入新活力,带来更多可能性。"他说说念。