何恺明新作再战AI生成:入职MIT后首次带队,奥赛双料金牌得主邓明扬参与(何恺明resnet)

AIGC动态欢迎阅读

原标题:何恺明新作再战AI生成:入职MIT后首次带队,奥赛双料金牌得主邓明扬参与

关键字:模型,建模,量子,损失,团队

文章来源:量子位

内容字数:0字

内容摘要:

梦晨 发自 凹非寺量子位 | 公众号 QbitAI何恺明入职MIT副教授后,首次带队的新作来了!

让自回归模型抛弃矢量量化,使用连续值生成图像。并借鉴扩散模型的思想,提出Diffusion Loss。

他加入MIT后,此前也参与过另外几篇CV方向的论文,不过都是和MIT教授Wojciech Matusik团队等合作的。

这次何恺明自己带队,参与者中还出现一个熟悉的名字:

邓明扬,IMO、IOI双料奥赛金牌得主,在竞赛圈人称“乖神”。

目前邓明扬MIT本科在读,按入学时间推算现在刚好大四,所以也有不少网友猜测他如果继续在MIT读博可能会加入何恺明团队。

接下来具体介绍一下,这篇论文研究了什么。

借鉴扩散模型,大改自回归生成传统观点认为,图像生成的自回归模型通常伴随着矢量量化(Vector Quantization),比如DALL·E一代就使用了经典的VQ-VAE方法。

但团队观察到,自回归生成的本质是根据先前的值预测下一个token,这其实与值是离散还是连续没啥必然联系啊。

关键是要对token的概率分布进行建模,只要该概率分布可以通过损失函数来测量并用于从中抽取样本就行。

并且从另一个

原文链接:何恺明新作再战AI生成:入职MIT后首次带队,奥赛双料金牌得主邓明扬参与

联系作者

文章来源:量子位

作者微信:QbitAI

作者简介:追踪人工智能新趋势,关注科技行业新突破

0
分享到:
没有账号? 忘记密码?