Sora 是一种基于扩散模型的视频生成模型，其核心技术是一个预训练的扩散变换器。扩散模型是一种生成式模型，通过学习输入数据的分布来生成新的数据。在 Sora 中，扩散模型被用来学习视频的分布，从而生成新的视频。
Sora 的核心技术源自 Diffusion Transformers（DiT），它结合了 VAE、ViT、DDPM 技术，优化了视频生成。具体来说，Sora 将原始输入视频压缩成一个时空潜在表示，然后从压缩视频中提取一系列时空潜在补丁，以封装短时间间隔内的视觉外观和运动动态。这些补丁类似于语言模型中的单词标记，为 Sora 提供了用于构建视频的详细视觉短语。Sora 的文本到视频生成是通过扩散变换器模型执行的。从一个充满视觉噪声的帧开始，模型迭代地去除噪声并根据提供的文本提示引入特定细节。本质上，生成的视频通过多步精炼过程出现，每一步都使视频更加符合期望的内容和质量。
总的来说，Sora 的核心技术是一个预训练的扩散变换器，它能够解析文本并理解复杂的用户指令，然后通过扩散模型生成视频。
