数据处理与SQL开发培训课程大纲
培训对象:
-
数据分析师/数据运营人员
-
数据仓库/ETL开发工程师
-
后端开发工程师(需补齐数据处理能力)
-
商业智能(BI)工程师
-
需要从数据库提取和处理数据的业务人员
-
零基础但希望系统学习SQL的职场人士
培训目标:
使学员从零开始系统掌握数据处理的基本概念与SQL开发的核心技能,熟练运用DDL/DML进行数据库对象管理与数据操作;精通单表查询、多表连接、子查询、窗口函数等查询技术;掌握数据清洗、转换与整合的实战方法;具备复杂业务数据提取、处理与分析的能力,能够独立编写高效、规范的SQL代码,为数据分析和数据开发工作打下坚实基础。
培训内容介绍:
-
数据处理基础与数据库概述:数据处理的基本概念(数据/信息/知识);数据处理流程(采集→清洗→转换→存储→分析→可视化);数据库系统的基本概念(DB/DBMS/DBS);关系型数据库的核心特征;主流关系型数据库介绍(MySQL/Oracle/SQL Server/PostgreSQL);ER图与数据建模基础;关系规范化理论(三大范式)。
-
SQL语言概述与开发环境搭建:SQL语言的发展历程与标准演进;SQL语言分类(DDL数据定义语言/DML数据操作语言/DQL数据查询语言/DCL数据控制语言);SQL语法规则与书写规范;数据库连接工具使用(Navicat/DBeaver/DataGrip/MySQL Workbench);开发环境配置;第一个SQL语句:SELECT 'Hello World'。
-
DDL数据定义语言:数据库创建与管理(CREATE DATABASE/ALTER DATABASE/DROP DATABASE);数据类型详解(数值型/字符型/日期时间型/枚举型/二进制型);表的创建(CREATE TABLE)与约束(主键PRIMARY KEY/外键FOREIGN KEY/唯一UNIQUE/非空NOT NULL/检查CHECK/默认DEFAULT);表的修改(ALTER TABLE添加/修改/删除列);表的删除与截断(DROP TABLE/TRUNCATE TABLE);索引的概念与创建(CREATE INDEX)。
-
DML数据操作语言:插入数据(INSERT INTO单行插入/多行插入/INSERT INTO SELECT);更新数据(UPDATE单表更新/多表关联更新);删除数据(DELETE与TRUNCATE区别);MERGE语句(UPSERT操作);事务处理基础(BEGIN/COMMIT/ROLLBACK);ACID特性理解。
-
单表查询基础:SELECT语法结构与执行顺序;列的选择与别名(AS);常数字段与计算字段;DISTINCT去重查询;WHERE子句条件过滤(比较运算符/逻辑运算符/IN/BETWEEN/LIKE/IS NULL);ORDER BY排序(升序/降序/多字段排序);LIMIT限制返回行数(MySQL/PostgreSQL)与FETCH(SQL Server/Oracle)。
-
函数应用:字符串函数(CONCAT/SUBSTRING/REPLACE/LENGTH/UPPER/LOWER/TRIM/LEFT/RIGHT);数值函数(ROUND/CEIL/FLOOR/ABS/MOD/POWER/SQRT);日期函数(NOW/CURDATE/DATE_FORMAT/DATEDIFF/DATE_ADD/EXTRACT/YEAR/MONTH/DAY);转换函数(CAST/CONVERT);条件函数(CASE WHEN/IF/COALESCE/NULLIF);聚合函数(COUNT/SUM/AVG/MAX/MIN)。
-
分组聚合查询:GROUP BY分组语法与执行逻辑;聚合函数与GROUP BY配合使用;多字段分组;HAVING分组后过滤(与WHERE区别);分组后排序;ROLLUP与CUBE多维汇总;GROUPING SETS自定义分组集;分组聚合应用场景(统计报表/多维度分析)。
-
多表连接查询:连接查询的必要性(数据规范化与表拆分);连接类型详解:INNER JOIN内连接、LEFT JOIN左连接、RIGHT JOIN右连接、FULL JOIN全连接、CROSS JOIN交叉连接;连接条件ON与WHERE过滤区别;自连接应用;非等值连接;多表连接(三表及以上连接);连接查询与聚合函数结合;连接查询性能考量。
-
子查询:子查询概念与执行逻辑;子查询分类(标量子查询/列子查询/行子查询/表子查询);子查询位置(SELECT/FROM/WHERE/HAVING/EXISTS);IN与NOT IN子查询;EXISTS与NOT EXISTS相关子查询;ANY/SOME与ALL操作符;子查询与连接查询对比;子查询性能优化建议。
-
集合操作:UNION与UNION ALL区别与选择;INTERSECT交集(获取共同部分);EXCEPT/MINUS差集(获取左表独有);集合操作注意事项(列数一致/数据类型兼容/ORDER BY位置);集合操作与连接查询对比;集合操作应用场景。
-
窗口函数:窗口函数概念与语法(OVER());窗口函数与GROUP BY区别;ROW_NUMBER()行号分配;RANK()与DENSE_RANK()排名函数对比;NTILE()分桶函数;LAG/LEAD前后行访问(计算环比/同比);FIRST_VALUE/LAST_VALUE首尾值获取;SUM/AVG等聚合窗口函数(累计计算/移动平均);PARTITION BY分区与ORDER BY排序组合;窗口帧(ROWS/RANGE)定义滑动窗口。
-
公用表表达式(CTE)与递归查询:公用表表达式CTE语法(WITH...AS);CTE与派生表对比;递归CTE原理与语法;递归CTE应用场景(层级数据查询/组织结构树/BOM表展开);递归查询注意事项与性能考量;多级CTE组合与复用。
-
视图与临时表:视图概念与作用;创建与管理视图(CREATE VIEW/ALTER VIEW/DROP VIEW);视图的更新限制(WITH CHECK OPTION);临时表使用场景(临时表 vs 表变量 vs CTE);会话级临时表与事务级临时表;物化视图简介。
-
数据清洗与转换实战:数据清洗核心任务(空值处理/重复值处理/异常值过滤/格式规范化);空值处理策略(COALESCE填充默认值/删除空值行);重复记录识别与删除(ROW_NUMBER窗口函数去重);异常值识别与过滤(基于统计规则/业务规则);文本清洗(去除空格/大小写转换/替换非法字符);日期格式统一标准化;数据一致性校验;多表对齐与维度补全。
-
ETL数据处理流程:ETL概念与流程(抽取→转换→加载);数据抽取策略(全量抽取/增量抽取);数据转换操作(清洗/整合/聚合/计算);数据加载方式(全量加载/增量加载);ETL与ELT对比;调度与自动化基础。
-
性能优化与查询调优:SQL性能优化方法论;索引类型与设计原则(主键索引/唯一索引/普通索引/组合索引);EXPLAIN执行计划解读(type/rows/Extra/possible_keys/key);常见索引失效场景;查询重写优化策略;避免SELECT *;合理使用连接替代子查询;大数据量查询优化技巧;分页查询优化(延迟关联/子查询优化)。
-
高级数据处理技巧:行列转换(CASE WHEN条件聚合);分组取每组TOP N(窗口函数实现);累计百分比计算(窗口函数);同比/环比计算(LAG窗口函数);中位数与众数计算;字符串拆分与聚合(GROUP_CONCAT/STRING_AGG);JSON数据处理(JSON_EXTRACT/JSON_TABLE)。
-
SQL开发规范与质量管理:SQL编码规范(命名规范/缩进格式/注释规范);SQL代码审查要点;SQL单元测试基础;版本控制与SQL脚本管理;预生产环境测试;SQL代码文档化;常见SQL反模式与避免策略。
-
综合实战一:电商数据查询与分析:电商数据库(用户表/商品表/订单表/订单明细表/类目表);业务需求实现:统计各品类销售TOP3商品→计算用户复购率与客单价→分析月度销售趋势与同比→RFM模型用户分层→用户留存分析(同期群)→购物篮关联分析。
-
综合实战二:金融数据清洗与整合:金融交易数据库(客户表/账户表/交易流水表/产品表);数据处理需求:多源数据整合(客户信息+交易流水)→异常交易识别(大额/频繁)→逾期账龄计算→账户余额累积计算→交易行为特征提取→风险指标计算与输出。
-
综合实战三:ETL数据处理流水线:从源系统抽取增量数据→数据清洗与格式统一→数据转换与业务规则计算→维度表与事实表更新→数据质量校验→异常数据告警→数据加载到目标数据仓库→调度任务配置与监控。
-
课程总结与进阶路径:SQL核心技能回顾;常见SQL面试题解析;SQL学习资源推荐;后续进阶方向(数据库设计/数据库管理/大数据SQL/NoSQL);数据处理工程师能力模型。
如果您想学习本课程,请
预约报名
如果没找到合适的课程或有特殊培训需求,请
订制培训
除培训外,同时提供相关技术咨询与技术支持服务,有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916
技术服务需求表点击在线申请
服务特点:
海量专家资源,精准匹配相关行业,相关项目专家,针对实际需求,顾问式咨询,互动式授课,案例教学,小班授课,实际项目演示,快捷高效,省时省力省钱。
专家力量:
中国科学院软件研究所,计算研究所高级研究人员
oracle,微软,vmware,MSC,Ansys,candence,Altium,达索等大型公司高级工程师,项目经理,技术支持专家
中科信软培训中心,资深专家或讲师
大多名牌大学,硕士以上学历,相关技术专业,理论素养丰富
多年实际项目经历,大型项目实战案例,热情,乐于技术分享
针对客户实际需求,案例教学,互动式沟通,学有所获