大模型国产化适配1-华为昇腾AI全栈软硬件平台总结(华为升腾芯片是电脑芯片吗)

AIGC动态欢迎阅读

原标题:大模型国产化适配1-华为

昇腾AI全栈软硬件平台总结

关键字:华为,模型,框架,算子,处理器

文章来源:算法邦

内容字数:16026字

内容摘要:

直播预告 | 明晚七点,阿里巴巴和NVIDIA的两位专家将直播讲解阿里安全大模型工程实践、NVIDIA NIM 推理微服务解析,欢迎扫码报名~随着ChatGPT

的现象级走红,引领了AI大模型时代的变革,从而导致 AI 算力日益紧缺。与此同时,中美贸易战,导致AI算力国产化适配势在必行。本文主要对最近使用昇腾芯片做一个简单总结。

01昇腾AI全栈软硬件平台简述昇腾芯片是华为公司发布的两款 AI 处理器(NPU),昇腾910(用于训练)和昇腾310(用于推理)处理器,采用自家的达芬奇架构。昇腾在国际上对标的主要是英伟达的GPU,国内对标的包括寒武纪、海光等厂商生产的系列AI芯片产品(如:思元590、深算一号等)。

整个昇腾软硬件全栈包括5层,自底向上为Atlas系列硬件、异构计算架构、AI框架、应用使能、行业应用。

image.png

image.png

image.png

Atlas系列硬件

Atlas系列产品是基于昇腾910和昇腾310打造出来的、面向不同应用场景(端、边、云)的系列AI硬件产品。比如:

Atlas 800(型号:9000) 是训练服务器,包含8个训练卡(Atlas

原文链接:大模型国产化适配1-华为昇腾AI全栈软硬件平台总结

联系作者

文章来源:算法邦

作者微信:allplusai

作者简介:智猩猩矩阵账号之一,聚焦生成式AI,重点关注模型与应用。

0
分享到:
没有账号? 忘记密码?