LLM 的应用场景包括以下方面：
模型成本与部署：将模型的训练成本与部署推理成本降低到接近 2 年企业服务支出的费用成本左右，以实现一年投入、两年回本的概念。同时，通过应用工程让 LLM 与企业业务流快速且顺畅地打通，促成在多业务场景落地。 应用工程方向： 基于行业数据微调小体量模型，通过指令数据实现小模型对固定任务的有效处理，适用于稳定且多年不发生明显变化的行业业务，如白电企业基于知识库的问题分析和解决。 采用 LangChain、Agent 思路的流程自动化工程框架，结合各种工具与企业数据库对接，实现更先进、可用性更高、泛化性更强的 RPA 方案，这是当前 ToB 业务 Agent 的主流方向，且与企业业务数字化相辅相成。 提示执行/推理： 在开发初期，通常使用 OpenAI API 启动新的 LLM 应用，如 gpt-4 或 gpt-4-32k 模型，其在广泛输入领域运行，无需微调或自托管，能为应用性能提供最佳场景。 项目规模化时，可考虑切换到更经济的 gpt-3.5-turbo 模型，或与其他专有供应商（如 Anthropic 的 Claude 模型）进行实验，也可将部分请求分流到开源模型，尤其在高流量的 B2C 用例中。 对传统任务的提升：LLM 对 NLP（自然语言处理）、NLG（自然语言生成）、KG（知识图谱）都有较大提升，使得这三类场景在效率和效果上有更好、更多可能的落地方式。但实现某些 NLP 任务仍存在困难，如收集上千条业务数据并标注来训练 bert 模型，时长可能要一个月，且交付后较难新增意图和任务泛化；构建知识图谱复杂，周期长，稍有不慎可能图谱与业务错位；NLG 仍以拼接为主，人工规则影响较大。