|
课程培训
|
大模型原理与垂直领域调优、部署与深度应用培训课程
课程定位 大模型高级工程师认证课程，帮助学员掌握： § 大模型提示词技巧 § 检索增强和微调的原理和流程 § LangChain、Llama-Index 和 Dify 等大模型开发组件的使用方法 § 工程化评测的概念与方法 § 大模型的规范和安全性 课程结构
课程以项目式结构呈现，学员将作为教育内容开发公司的员工，构建基于大模型的答疑机器人，解决新员工入职频繁答疑的问题。同时，课程将结合垂直领域应用场景，特别是投资研究部门的个性化需求，探讨大模型在专业领域的深度应用。 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用需求，介绍如何将大模型技术应用于金融投资研究场景，包括行业分析、公司研究、市场数据解读等专业应用。 课程准备
计算环境准备
§ 获取课程代码并安装依赖环境 § 切换 Python 环境 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用场景，探讨如何将大模型技术应用于金融数据分析、行业研究报告生成、投资决策支持等专业场景。 项目背景
业务场景
§ 新员工频繁咨询相同问题 § 文档库信息过多，难以消化 § 传统问答系统基于固定规则，无法处理不同问法 解决方案
利用大模型技术构建智能问答应用，基于公司内部知识库准确回答问题。 投研部门个性化问题研讨
针对投资研究部门的垂直领域需求，探讨如何构建面向金融行业的智能问答系统，处理行业分析、公司研究、市场数据等专业问题。 用大模型构建新人答疑机器人
API 调用基础
§ 通过 OpenAI Python SDK 调用大模型 § 流式输出优化用户体验 § API Key 安全配置 大模型工作原理
§ 输入文本分词化（Token 化） § Token 向量化 § 大模型推理 § 输出 Token（自回归生成） § 输出文本 参数控制
§ Temperature：控制随机性（0-2） § Top_p：控制候选范围（0-1） § 参数调优策略 私域知识问题
§ 大模型知识局限性 § 上下文窗口限制 § 上下文工程（Context Engineering）概念 § RAG（检索增强生成）技术方案 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何利用大模型 API 处理金融术语、行业数据、研究报告等专业内容，以及如何构建面向投研场景的智能问答系统。 扩展答疑机器人的知识范围
RAG 工作原理
§ 建立索引阶段：文档解析、文本分段、文本向量化、存储索引 § 检索生成阶段：检索相关文本段、生成最终回答 创建 RAG 应用
§ 使用 LlamaIndex 构建 RAG 应用 § 索引保存与加载 § 代码封装与复用 文本向量化
§ Embedding 模型的作用 § 对比学习原理 § 向量相似度计算 投研部门个性化问题研讨
针对投资研究部门的垂直领域知识库，探讨如何构建金融行业专业文档的 RAG 系统，包括行业报告、公司财报、市场数据的检索与生成应用。 优化提示词改善答疑机器人回答质量
提示词框架
§ 基本要素：任务目标、上下文、角色、受众、样例、输出格式 § 提示词模板设计 提示词优化技巧
§ 清晰表达需求，使用分隔符 § 限定角色和受众 § 规定输出格式（结构化输出） § 提供少样本示例 § 思维链（Chain of Thought）推理 大模型处理多种任务
§ 文档润色 § 文档质量审查 § 内容创作 § 文本分类与情感分析 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何优化提示词以生成高质量的研究报告、行业分析文档，以及如何利用大模型进行金融文本的情感分析和风险识别。 自动化评测答疑机器人的表现
评估 RAG 应用表现
§ 答疑机器人存在的问题 § 查看 RAG 检索结果排查问题 § 建立自动化测试机制 RAG 自动化评测体系
§ Ragas 评测框架 § TruLens 评测框架 § DeepEval 评测框架 § 自定义评测框架 使用 Ragas 评估应用表现
§ Answer Correctness：评估回答准确度 § Context Recall：评估检索召回效果 § Context Precision：评估检索精度 § 评测指标计算过程 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何构建专业的评测体系，评估金融问答系统的准确性、专业性和合规性，确保投研建议的质量和可靠性。 优化 RAG 应用提升问答准确度
初步优化检索效果
§ 增加召回文档切片数量 § 文档结构化处理（Markdown 格式） § 评估改进效果 RAG 优化策略
§ 内容质量优化 § 召回算法优化 § 文本分割优化（Token 分割、句子分割、句子窗口分割、语义分割、Markdown 分割） § 上下文窗口优化 § 问题改写优化（多步骤查询分解、HyDE 假设文档增强检索） § 重排序优化 答案生成阶段优化
§ 大模型参数调优 § 提示词模板优化 § 优化效果评估 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何优化 RAG 系统以准确检索和生成金融行业专业内容，包括行业分析、公司研究、市场趋势等投研核心场景。 用插件扩展答疑机器人的能力边界
智能体（Agent）核心能力
§ 工具调用 § 多模态处理 § 任务分解 § 上下文管理 构建 Agent
§ 明确目标 § 定义工具函数 § 将工具函数与大模型集成（Assistant API） § 建立工具映射关系 使用大模型进行意图识别
§ 意图识别的作用 § 多任务处理流程 § 上下文工程应用 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何构建智能体系统处理投研场景的复杂任务，如数据查询、报告生成、风险评估等，以及如何实现多智能体协同完成投研工作流。 通过微调提升模型的准确度与效率
微调核心价值
§ 垂直领域适配 § 任务优化 § 成本控制 § 性能提升 微调原理
§ 机器学习基础：通过数据寻找规律 § Loss Function 和 Cost Function § 梯度下降算法 § 神经网络：万能复杂函数逼近器 § 预训练与微调 § 高效微调技术（LoRA） 微调实践
§ 任务设计 § 微调流程 § 训练参数调优 § 微调效果评估 § 常见问题与解决方法 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何通过微调技术让大模型更好地理解金融术语、行业知识、投资逻辑，提升在投研场景下的准确性和专业性。 部署模型
直接调用模型（无需部署）
§ 预置模型 API 调用 § 按需计费 § 无需运维 § 限流问题 在测试环境中部署模型
§ 使用 vLLM 部署模型 § 部署开源模型 § 部署微调模型 § 测试服务运行状态 § 评估服务性能 在云上部署模型
§ 使用大模型服务平台部署模型 § 使用函数计算服务部署模型 § 使用模型在线服务平台部署模型 § 使用云服务器或容器服务部署模型 § 云服务方案对比和决策推荐 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何部署面向投研场景的专用模型服务，包括模型选型、性能优化、成本控制等，确保投研系统的稳定性和专业性。 大模型应用生产实践
业务需求分析
§ 模型的功能性需求：自然语言处理、视觉、语音、多模态任务，以及垂直领域的特殊需求 § 模型的非功能性需求：性能、成本、稳定性 性能优化
§ 系统性能提升：更快处理请求、减少大模型处理请求数和运算量、减少 Tokens 输入输出、并行化处理、不默认依赖大模型 § 用户感知优化：流式输出、分块处理、展示任务进度、完善错误处理机制、提供用户反馈入口 成本优化
§ 优化系统性能时节约成本 § 云上部署成本优化：选择合适的 GPU 实例规格、选择合适的计费方式 稳定性保障
§ 降低用户请求的资源消耗 § 自动化扩缩容 § 评测基线管理 § 模型实时监控与预警 § 容灾性设计 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何确保投研系统的性能、成本和稳定性，包括在金融数据高峰期如何保证系统响应速度，以及如何控制投研系统的运营成本。 大模型应用安全合规
主要安全风险
§ 提示词注入攻击 § 指令注入攻击 § 数据投毒攻击 § 对抗性攻击 § 隐私泄露风险 AI 安全护栏防护
§ 使用安全防护服务 § 防护文本内容 § 集中管理安全规则 § 防护图像内容 § 多种风险防护能力 投研部门个性化问题研讨
针对投资研究部门的垂直领域应用，探讨如何确保投研系统的安全合规，包括敏感金融数据的保护、合规性检查、风险内容过滤等，确保投研建议符合监管要求。 大模型及 AI 应用安全攻击案例
§ 攻击大模型本身：训练数据中的风险 § 攻击大模型的应用 § 攻击大模型的基础设施 如果您想学习本课程，请预约报名
如果没找到合适的课程或有特殊培训需求，请订制培训 除培训外，同时提供相关技术咨询与技术支持服务，有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916 技术服务需求表点击在线申请 服务特点： 海量专家资源，精准匹配相关行业，相关项目专家，针对实际需求，顾问式咨询，互动式授课，案例教学，小班授课，实际项目演示，快捷高效，省时省力省钱。 专家力量： 中国科学院软件研究所，计算研究所高级研究人员 oracle,微软，vmware，MSC,Ansys，candence,Altium,达索等大型公司高级工程师，项目经理，技术支持专家 中科信软培训中心，资深专家或讲师 大多名牌大学，硕士以上学历，相关技术专业，理论素养丰富 多年实际项目经历，大型项目实战案例，热情，乐于技术分享 针对客户实际需求，案例教学，互动式沟通，学有所获 |
|
