CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?(cpu向gpu传输速度)

AIGC动态欢迎阅读

原标题:CPU、GPU的互连从1米飙至100米,英特尔

:你相信光吗?

关键字:英特尔,解读,光子,集成电路,光纤

文章来源:量子位

内容字数:0字

内容摘要:

金磊 发自 凹非寺量子位 | 公众号 QbitAI英特尔用“光”,突破了大模型时代棘手的算力难题——

推出业界首款全集成OCI(光学计算互连)芯片。

△图源:英特尔要知道,在AI大模型遵循Scaling Law发展的当下,为了取得更好的效果,要么模型规模、要么数据规模,都在往更大的趋势发展。

这就会导致AI大模型在算力层面上,对整个计算、存储,包括中间I/O通信等提出更高的要求。

而英特尔此次的突破口,正是I/O通信:

在CPU和GPU中,用光学I/O取代电气I/O进行数据传输。

有什么用?

一言蔽之,数据传输距离远多了,量大了,功耗低了——更适合AI大模型的“体质”了。

△图源:英特尔那么英特尔为什么要用到“光”?具体又是如何实现的?

用上了“光”,从马车变卡车传统采用电气I/O的方式(铜线连接)固然有它的优势,例如支持高带宽密度和低功耗,但致命的问题就是传输距离比较短(不到1米)。

这要放在一个机架里倒也是没有问题,但AI大模型在算力上往往标配都是服务器集群这个量级。

不仅占地面积大,还跨N多个机架,线都是需要几十米甚至上百米的长度,功耗那是相当的高;它会吃掉所有供给机架的电源,以

原文链接:CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?

联系作者

文章来源:量子位

作者微信:

作者简介:

0
分享到:
没有账号? 忘记密码?