显卡在 AI 领域具有重要作用:
提供计算能力:算力可以直接转化为 GPU,电脑里的显卡就是 GPU。购买云服务时,也是服务商购买显卡“租”给用户使用,算力约等于显卡。 图像和图形运算:GPU(图形处理器)是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上做图像和图形相关运算工作的微处理器。 数据处理和存储:显存用于存储显卡芯片处理过或者即将提取的渲染数据,如同计算机的内存一样,是存储要处理的图形信息的部件。 执行特定任务优势:在模型启动过程中,数据从硬盘加载到显卡中。显卡在处理某些任务上优于 CPU,主要是因为它专注于执行浮点运算,而 CPU 负责执行更广泛的计算任务。 满足多样生成任务需求:如在 Stable Diffusion 中,16GB 的 4060ti 虽速度比 12GB 的 4070ti 慢,但大显存可执行更多样的 AI 生成任务,如生成更大分辨率的超清图片,使用更高的参数进行 Dream booth 微调等。