AI大模型在字节跳动模型广场上有了一座擂台。(字节跳动模型运营是做什么的)

6月11日凌晨,在苹果开发者大会WWDC 2024上,苹果发布了最新版本的操作系统iOS 18,同时首次公布了苹果智能平台(Apple Intelligence,简称 AI)。在近 40 分钟的时间内,苹果差不多提到了 60 次 Apple Intelligence,基于自有AI与“外援”OpenAI,苹果将对Siri、iOS以及iPhone、iPad、Mac等设备的体验进行全面重构。发布会后,苹果股价连续两日上涨,最新市值达到3.3万亿美元,再次成为世界市值最高的公司。

AI大模型在字节跳动模型广场上有了一座擂台。_图1

(图源:苹果WWDC 2024)

苹果宣布放弃汽车押注人工智能后,终于真正开始全力以赴。

苹果用实际行动证明,人工智能是世界的未来——上一次科技行业如此激动还是移动互联网爆发时。

“AI的iPhone时刻”终于来了!这一概念由黄仁勋率先提出,作为AI“卖铲子的”,英伟达一骑绝尘,成了与苹果、微软同等规模的超级巨头。现在看来,iOS 18以及Apple Intelligence的发布,意味着AI的“iPhone时刻”真的到来。

Bot大爆发,人工智能现象级应用呼之欲出

2022年11月,GPT-3.5展示了人们对于AI大模型的巨大期望,AIGC领域呈现出多样化的发展,包括文生文、文生图、文生音乐、文生视频等各种基于大模型技术的创新。与此同时,越来越多的企业和开发者纷纷加入AI领域,努力将AI应用到自己的产品中。

然而从结果来看,人工智能(AI)尚未普及,迄今为止行业缺乏一款类似于微信(3G移动时代)或者说抖音(4G移动时代)的现象级应用,大多数用户对AI大模型是“只闻其声”,Sora更是成了停留在demo阶段的传说。

当前的AI大模型有点像2010年前后的移动互联网:iPhone与安卓均已诞生,3G也已发牌,然而App的缺失却让智能手机成了少数发烧友的炫酷装备。

当前的AI大模型有点像2010年前后的移动互联网:iPhone与安卓均已诞生,3G也已发牌,然而App的缺失却让智能手机成了少数发烧友的炫酷装备。现在的AI大模型也是如此,虽然已经取得了很大的进展,但仍然存在一些问题和限制。

任何技术都需要广泛的应用生态来推动其繁荣发展,因为只有技术得到实际应用,才能体现其价值。AI应用生态的发展亟需更加丰富多样的内容,但AI开发者目前面临着两个主要难题:

一个是AI大模型本身具有极高的开发门槛,开发者不知道如何“下牙”,不同模型能力不同,越复杂的模型越难调试,学习成本高,开发难度大;第二个是AI计算资源昂贵奢侈,大模型训练、推理与部署均需要高性能GPU、电能等计算资源,这给开发者带来巨大的资金压力。

一个是AI大模型本身具有极高的开发门槛,开发者不知道如何“下牙”,不同模型能力不同,越复杂的模型越难调试,学习成本高,开发难度大;第二个是AI计算资源昂贵奢侈,大模型训练、推理与部署均需要高性能GPU、电能等计算资源,这给开发者带来巨大的资金压力。

人工智能(AI)想要普及,需要在各种软硬件产品中得到应用。它可以成为AI硬件产品的一部分,也可以作为嵌入到AI硬件中的AI应用。其中最典型的是机器人(Bot),它是目前应用最广泛的智能应用形式。一些代表性的机器人应用包括ChatGPT、字节豆包文心一言

AI大模型在字节跳动模型广场上有了一座擂台。_图2

(图源:字节扣子)

大模型将重构人机交互方式,应用的终极形态可能不一定再是基于触控点按GUI(图形交互界面)的App,而是基于人机自然多模态对话交互的Bot,就跟苹果在WWDC 24上“画饼”的Siri超级助理一样,AI可理解文字、声音、图片、视频等诸多指令并生成对应的结果。

大型模型将彻底改变人机交互方式,未来的应用可能不再局限于基于触摸屏的图形交互界面(GUI)的应用程序,而是基于人机自然多模态对话交互的机器人。就像苹果在WWDC 24上展示的Siri超级助理一样,人工智能可以理解文字、声音、图片、视频等多种指令,并生成相应的结果。

从这个角度来看,机器人将成为人工智能时代的“应用程序”,对于开发者来说,开发机器人将成为拥抱人工智能的主要途径,也是获取新的利益的机会。

因此,要推动人工智能(AI)大模型的实际应用,最重要的一点就是降低机器人(Bot)开发的门槛。在移动时代,苹果和谷歌一直致力于降低开发门槛,他们的应用生态系统分别拥有数百万款应用程序。在人工智能时代,字节旗下的扣子(coze.cn)也希望扮演类似的角色,让开发者能够以更低的门槛、更高的效率和更低的成本开发机器人应用,迎接人工智能的新浪潮。

字节扣子,让每个人都能成为人工智能开发者

对大多数开发者来说,基于基础大模型开发AI应用特别是Bot,并不现实,因为基础大模型开发门槛极高,与大多数开发者之间都有技术鸿沟,更别说缺乏编程经验的普通人了。

AI开发者的痛点,有平台看见了,比如擅长技术产品化的字节跳动。在大模型驱动的AI时代,字节跳动没有盲目增加参数或者堆积大量数据来进行军备竞赛,而是将重点放在了技术产品化和大模型应用上。除了提供基础的大模型和相应的云服务,今年2月字节跳动在国内推出了新一代AI Bot应用开发平台扣子(coze.cn)。在这个平台上,即使是没有编程基础的新手,也能快速创建各种各样的聊天机器人,并将创建的机器人发布到抖音、微信等社交通讯平台。

AI大模型在字节跳动模型广场上有了一座擂台。_图3

(图源:字节扣子)

相较于其他Bot开发平台而言,字节扣子的最大特色可被概括为:“模块化”。

开发者可以像搭建积木一样,将不同的组件进行拼装,从而将大型模型、插件和工作流等功能组合起来,形成具有不同能力、适用于不同场景的Bot应用。即使是没有编程基础的人,也可以通过拖拉拽的方式快速搭建一个工作流,实现编程的效果。

在搭建Bot的过程中,扣子提供了多种方式来存储知识和支持交互模式,开发者可以将实时信息或者本地大文件作为知识库输入给网站,从而让Bot具备特定领域的数据源。

此外,字节扣子另一个特征是更新迭代速度快,这一点非常重要。为什么苹果在WWDC 2024上没有明确说明“苹果智能”的发展路线?因为人工智能的发展非常迅速,它将会带来怎样的软件和硬件今天还没有人能够预测。因此,所有的人工智能开发者,特别是机器人开发者,都必须紧跟时代,快速进化。

字节扣子可满足开发者快速进化的需求,一则是其低门槛、易上手的搭建环境支持Bot极速迭代;二则是其会及时地更新各种基础大模型且兼容并包,让Bot拥有与时俱进的底层智能,其现已支持字节豆包通义千问、MiniMax、Moonshot、智谱、百川智能等基础大模型,且名单依然在不断扩大中。

凭借着模块化的低门槛开发能力,快速迭代的平台基础能力体系,字节扣子让Bot开发变得前所未有的简单。

凭借着模块化的低门槛开发能力,字节扣子平台提供了一种简单的方式来开发Bot。通过快速迭代的平台基础能力体系,开发者可以轻松地进行开发和更新。这使得Bot开发变得前所未有的简单。

6月13日,字节扣子联合Intel推出AI工坊(Coze AI Factory)活动,同时推出了全新板块“模型广场”,旨在提供在线大模型对比与评估系统——可以简单地将其理解成是AI大模型以及Bot的“擂台”。

AI大模型在字节跳动模型广场上有了一座擂台。_图4

(图源:字节扣子)

古代的“擂台”要么是比武招亲,要么是招募勇士,总之就是要寻觅出色的人才。同理,字节扣子的“模型广场”旨在构建一个大模型评估体系,一方面让AI开发者能够更好地选择适合自身需求的大模型,另一方面让大模型供应商了解对应大模型在细分领域和真实应用中的反馈,从而有针对性地进行改进。

字节扣子模型广场推出的背景是,“百模大战”如火如荼,各种类型的大模型层出不穷,包括基础大模型、垂直大模型、产业大模型和多模态大模型等,这让开发者陷入了选择困难症。在开发Bot时,往往不知道该选择哪种模型,而市面上也没有类似于豆瓣电影评分这样的评测体系。

举个例子,小雷这样的科技爱好者想在扣子上创建一个帮助编辑检查文章配图版权、错别字的Bot,但缺乏大模型开发经验的我并不知道扣子上的哪些模型、哪些插件、哪些能力可以为我所用,在模型广场,小雷可以通过“模型对战”来寻觅适合的模型。

也就是说,开发者可以利用一个Bot在隐藏模型的情况下回答各种问题,然后对回答进行投票。测试结束后,揭晓模型的结果,这样开发者就不再需要为选择困难症而烦恼了。

字节扣子模型广场的对战模式分为三种:指定Bot对战、随机Bot对战和纯模型对战。

字节扣子模型广场的对战模式分为三种:指定Bot对战、随机Bot对战和纯模型对战。指定Bot对战是指玩家可以选择与特定的Bot进行对战,可以根据自己的需求和喜好来选择对手。随机Bot对战是指系统会随机匹配一个Bot作为对手,增加了游戏的随机性和挑战性。纯模型对战是指玩家可以与其他玩家的模型进行对战,通过比拼模型的强弱来竞争胜利。这三种对战模式可以满足不同玩家的需求和游戏体验。

开发者想要评测模型在指定细分领域的能力,可以通过“指定Bot对战”的方式进行。开发者可以选择感兴趣的Bot,比如财经领域的信息处理或者数学领域的知识应用。系统会随机选取两个匿名模型,供开发者进行对战测试,以检验模型是否符合预期并进行筛选。

AI大模型在字节跳动模型广场上有了一座擂台。_图5

(图源:字节扣子)

比如我想做一个影评类Bot,需要筛选一个擅长影视类信息分析处理的模型。我只需选中字节扣子上已有的“影视分析Bot”进行对比,就可以筛选出表现更好的大模型。

AI大模型在字节跳动模型广场上有了一座擂台。_图6

(图源:字节扣子,该问题下,B模型显然不如A模型表现好。)

如果开发者想要测试模型在通用业务场景下的能力,可以选择“随机Bot”对战模式。系统会随机选择一个Bot,并随机匹配两个匿名模型进行评测。

AI大模型在字节跳动模型广场上有了一座擂台。_图7

(图源:字节扣子,随机Bot对战,问一个问题,对Bot的回答进行评分)

AI大模型在字节跳动模型广场上有了一座擂台。_图8

(图源:字节扣子,随机Bot对战,评分后系统会展示隐藏模型细节,帮助开发者选择合适的。)

如果开发者只是想评测模型本身的能力,则可以选择“纯模型对战”模式。这种模式可以直观地比较模型本身在文本生成等AIGC能力方面的表现。

字节靠着引以为豪的A/B测试方法体系,开发并运营了多款成功的移动产品,成为移动App工场。在小雷看来,字节扣子创造性推出的“模型竞技场”其实也是受到A/B测试方法论的启发,让开发者可以更高效地开发Bot,同时帮助所有大模型更快进化,字节扣子正在邀请更多大模型对其开放 API,加入到其评测范围,收集真实消费场景的数据进而有的放矢地优化。

自上线以来,字节扣子动作频频,成功抹平基础大模型与AI应用Bot之间的技术鸿沟,让Bot开发走向低代码阶段。AI应用的开发正在变得跟开发App一样简单甚至更简单。今年5月就有一位五年级小朋友基于字节扣子开发了AI bot,他通过利用在学校学到的语文知识,打造了一个堪称英语外教的 AI bot。

每个人都有机会成为AI开发者,这在字节扣子上正在变成现实。

重做所有软硬件!开发者迎接人工智能带来的巨大财富和成功

任何产品的成功都离不开两点:开发与运营,人工智能(AI)应用也不例外。AI应用的分发则是成功的运营的第一步。开发者开发Bot后,需要先部署让其“运行起来”,再分发获取用户、实现商业化,这些步骤都有相应的能力支持。

开发者在字节扣子创建完Bot后,可以将Bot部署到网站、App、小程序甚至硬件终端上,然后可以将其一键发布到包括抖音、公众号(订阅号/服务号/企业微信)在内的社交通讯平台。

AI大模型在字节跳动模型广场上有了一座擂台。_图9

(图源:字节扣子)

已有不少开发者尝到了低门槛开发与运营Bot的甜头,比如海底捞使用扣子模拟顾客对话演练,帮助客服小姐姐提高服务水平,让“海底捞式服务”在AI加持下更加完善和高效;比如超级猩猩使用扣子帮助用户学习更科学的健身方法;招商银行基于扣子搭建了推荐餐饮优惠门店的掌上生活优惠 bot 以及分析市场行情的财富看点……

2024年的一个显著趋势是,所有软硬件都在被用人工智能(AI)重新设计和改进。比如阿里提出了AI电商战略,让淘宝App全面拥抱人工智能技术;再比如在硬件行业,AI手机、AI PC、AI电视、AI穿戴设备、AI汽车更是成为热门趋势,除了OPPO、vivo、荣耀、三星、华为、魅族等安卓巨头加大对AI硬件的投入外,WWDC 24上苹果的动作更表明,AI手机以及AI硬件是未来的发展方向。

硬件开发者当然不只是大厂,除了大量的智能硬件开发者外,还有很多专注于基于智能硬件实现行业方案的开发者。不过,与AI软件相比,AI硬件开发更加困难,因为终端设备在算力、网络、续航等底层资源方面更受限制。苹果的AI硬件采用了端-边-云的复杂方案,通过大模型联动和协同来实现。而vivo、三星等AI硬件巨头也纷纷请来了“外援”,可见AI硬件开发绝非易事。

字节扣子已针对AI硬件的开发难题提供解法,其产品经理潘宇扬就明确提到,扣子已具备将AI能力带入硬件设备的能力,比如说在边缘云Bot的统筹下,普通的摄像头也能变成“AI设备”,通过图像截取、图像分析等能力,向后台传递哪个展馆热度最高、人流情况如何。

借助字节扣子“一键发布Bot”的功能,开发者可以轻松让硬件设备接入强大的大模型能力。通过这种方式,教育硬件、穿戴设备、家居家电、健康设备、行业智能设备等智能设备都能够获得全新的Bot对话服务能力,从而更好地满足人们在现实世界和各种场景中的需求,为人类的生活、生产和学习提供更好的服务。

不论是移动互联网还是人工智能大模型,软件与硬件均密不可分。人工智能硬件是人工智能 应用普及的关键,人工智能设备上的操作系统将升级为人工智能操作系统(如iOS 18),软件则将升级成人工智能 应用(如豆包)。不断降低人工智能软硬件应用开发门槛的技术公司,正在“孵化”更多创新。

AI大模型在字节跳动模型广场上有了一座擂台。_图10

(图源:字节扣子)

移动互联网的流量红利消失,开发者迎来人工智能带来的新一轮巨大财富。千行百业的软硬件开发者正在努力释放创意,结合业务场景与客户需求,开发机器人,用机器人创业,用机器人承载现有业务服务客户,用机器人改造现有软硬件应用,用机器人重塑原来的数字化系统。

最后的话:

“高手在民间”是一个常用的成语,意思是真正的专家和能手往往隐藏在普通人中间。

移动互联网时代,iOS与安卓催生了大量的创新,不仅仅是有微信、抖音、美团外卖、街电等等创新软件,还涌现出了智能电视、智能手表、智能门锁、智能家电、XR眼镜、智能汽车等智能硬件,同时也推动了智慧交通、智能能源、智能安防、共享经济等行业的数字化应用……

同样,当所有软硬件开发者,甚至每一个用户都能轻松地开发AI Bot时,AI一定会实现从“智能涌现”到“创新涌现”的巨大进步,“AI英雄”将会创造出许多我们今天期望和意想不到的AI软硬件应用,甚至会带来全新的商业模式。

人工智能的iPhone时刻已经到来,人工智能应用的计算能力、设备、开发工具等基础设施已经准备就绪,我们离真正的“人工智能时代”只有一步之遥。

0
分享到:
没有账号? 忘记密码?