郭明錤揭示Apple智能:端侧模型对DRAM需求约为2GB或更低。(郭明尧个人资料)

6月12日,天风国际证券分析师郭明琪近日发布报告称,根据他的观察,配备A16芯片的iPhone 15可能无法支持Apple Intelligence,但搭载M1芯片的机型可以支持。这意味着能否支持目前Apple Intelligence装置端模型的关键可能是手机内存(DRAM)的大小,而不仅仅是AI算力(TOPS)。

郭明琪表示,M1的人工智能算力约为11万亿次每秒(TOPS),低于A16的17万亿次每秒(TOPS)。但A16的动态随机存取存储器(DRAM)容量为6GB,低于M1的8GB。因此,目前的Apple Intelligence装置端人工智能低功耗机器学习(LLM)对DRAM的需求约为2GB或更低。

郭明錤揭示Apple智能:端侧模型对DRAM需求约为2GB或更低。_图1

他进一步指出,Apple Intelligence采用端侧3B LLM(应为FP16,M1的NPU/ANE对FP16有很好的支持),经过压缩后(采用2-bit与4-bit的混合配置),随时需要预留约0.7-1.5GB DRAM来运作Apple Intelligence的端侧LLM。

郭明琪的分析认为,对于现有的设备端应用,如果要通过人工智能进行增强,至少需要部署3B LLM(逻辑层管理器)。在此基础上,再根据压缩方式决定动态随机存取存储器(DRAM)的规格。(最有可能升级到7B LLM),届时需要更大的DRAM才能运作。苹果是否会以此作为高低端机种的产品区隔策略值得观察。

0
分享到:
没有账号? 忘记密码?