手把手教你部署端侧大模型,10月26日相约上海(端模与侧模)

AIGC动态欢迎阅读

原标题:手把手教你部署端侧大模型

,10月26日相约上海

关键字:模型,华为,技术,智能,产品

文章来源:机器之心

内容字数:0字

内容摘要:

机器之心报道

机器之心编辑部历经 2023 年的「百模大战」,AI 正在各行业领域沉淀、落地。科技巨头们的比拼焦点正在从把模型越做越大,转向端侧大模型的研发与应用,并成为行业日益关注的焦点。

如果把云端的大模型类比成无所不能的智能,那么端侧的大模型更像是一种无所不在的智能。对于企业来说,如何抓住端侧大模型的热潮,深入挖掘其在各行业的应用潜力,将其与自身业务紧密结合,催生新的增长动力,这不仅是一个战略机遇,也是企业管理者需要深思熟虑的问题。将目光投向实际生产,想要把大模型装进算力有限的终端设备,总会存在一些绕不开的技术难点,如何在有限的计算资源下保持模型性能?如何在电池续航能力有限的情况下降低模型运行的能耗?如何设计蒸馏、剪枝算法为 AI 模型降本增效?

这时,举办一场详细拆解端侧大模型技术与应用实践活动就显得尤为迫切,基于此,由机器之心联合世界人工智能大会组委会办公室精心策划的「端侧 AI 大模型开发与应用实践」技术论坛,将于10 月 26 日在上海举办。

拆解前沿技术 探索新的应用前景核心议题:

端侧模型的压缩与量化技术

端侧推理引擎的架构和工作原理

大模型在手机端侧部署落地探索

原文链接:手把手教你部署端侧大模型,10月26日相约上海

联系作者

文章来源:机器之心

作者微信:

作者简介:

0
分享到:
没有账号? 忘记密码?