使用多模态模型构建 AI 智能体培训课程-中科信软培训中心

使用多模态模型构建 AI 智能体培训课程

课程介绍

就像人类通过多种感官感知周围的世界一样，越来越多的计算机传感器被开发出来以捕捉各种数据，例如医疗健康行业，计算机断层扫描（CT）提供了三维表示，以检测潜在的异常；机器人行业，激光雷达帮助机器人感知深度并在复杂环境中导航。本课程中，学员将探索多种融合技术，以开发能使用不同数据类型进行推理的神经网络智能体。

学习目标

· 不同的数据类型及如何使其适用于神经网络。

· 模型融合，以及早期融合、晚期融合和中期融合的区别。

· 使用 OCR 进行 PDF 提取。

· 模态和智能体编排的区别。

· 使用视频搜索和摘要（VSS）定制 NVIDIA AI Blueprints

预备知识

· 深度学习概念有基本的理解。

· 熟悉至少一个深度学习框架，比如 TensorFlow、PyTorch 或者 Keras，本课程使用的是PyTorch

课程大纲

· 早期和晚期融合：

· 使用相机和 LiDAR 数据预测物体位置

· 转换各种数据类型，使其适用于神经网络

· 中间融合：

· 探索有效多模态模型架构背后的理论

· 训练对比预训练模型

· 创建向量数据库

· 模型映射（projection）：

· 将 Llama 2 转换为视觉语言模型（VLM）

· 使用光学字符识别（OCR）工具处理 PDF

· 模型编排：

· 使用 Cosmos Nemotron 分析视频

· 使用 VSS 回答用户关于视频内容的查询

· 使用 NVIDIA AI Blueprints 进行编排

· 评估测试和总结：

· 回顾所学要点

如果您想学习本课程，请预约报名
如果没找到合适的课程或有特殊培训需求，请订制培训
除培训外，同时提供相关技术咨询与技术支持服务，有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916
技术服务需求表点击在线申请

服务特点：
海量专家资源，精准匹配相关行业，相关项目专家，针对实际需求，顾问式咨询，互动式授课，案例教学，小班授课，实际项目演示，快捷高效，省时省力省钱。

专家力量：
中国科学院软件研究所，计算研究所高级研究人员
oracle,微软，vmware，MSC,Ansys，candence,Altium,达索等大型公司高级工程师，项目经理，技术支持专家
中科信软培训中心，资深专家或讲师
大多名牌大学，硕士以上学历，相关技术专业，理论素养丰富
多年实际项目经历，大型项目实战案例，热情，乐于技术分享
针对客户实际需求，案例教学，互动式沟通，学有所获