第 12 篇 分组统计
《MySQL 入门教程》第 12 篇 分组统计
12.1 聚合函数
在 SQL 中,聚合函数(Aggregate Function)用于对一组数据进行汇总计算,并且返回单个分析结果。例如,公司中的员工总数、所有员工的平均月薪等。MySQL 中常见的聚合函数包括:
- COUNT,返回查询结果的行数;
- AVG,计算一组数值的平均值;
- SUM,计算一组数值的总和;
- MAX ,计算一组数据中的最大值;
- MIN,计算一组数据中的最小值;
- GROUP_CONCAT,连接一组字符串。
例如,以下查询返回了公司中的员工总数、平均月薪、最高月薪、最低月薪以及所有员工的月薪总和:
select count(*) "员工数量",
avg(salary) "平均月薪",
max(salary) "最高月薪",
min(salary) "最低月薪",
sum(salary) "月薪总和"
from employee;
员工数量|平均月薪 |最高月薪 |最低月薪 |月薪总和 |
-------|-----------|--------|-------|---------|
25|9912.000000|30000.00|4000.00|247800.00|
以下查询返回了行政管理部所有员工的姓名组成的字符串:
select group_concat(emp_name) "所有员工",
group_concat(emp_name order by salary separator ':') "所有员工"
from employee
where dept_id = 1;
所有员工 |所有员工 |
------------|------------|
刘备,关羽,张飞|张飞:关羽:刘备|
第一个 group_concat 函数使用默认的参数和分隔符,第二个 group_concat 函数指定了字符串的连接顺序和分隔符。
使用聚合函数时需要注意两点:
- 在聚合函数的参数中加上 DISTINCT 关键字,可以在计算之前排除重复值。例如,当 AVG 函数中包含 DISTINCT 参数时,在计算平均值之前会排除掉重复值。因此,(1、1、2)的平均值为 (1 + 2) / 2 = 1.5,而不是 (1 + 1 + 2) / 3 = 1.33。
- 聚合函数在计算时,忽略输入值为 NULL 的数据行;COUNT(*) 除外。例如,当 AVG 函数中存在空值时,计算之前会忽略这些空值。因此,(1,2,NULL)的平均值为 (1 + 2) / 2 = 1.5,而不是 (1 + 2) / 3 = 1。
例如:
select count(*),
count(distinct sex),
count(bonus)
from employee;
count(*)|count(distinct sex)|count(bonus)|
--------|-------------------|------------|
25| 2| 9|
其中,COUNT(*) 返回了员工的总数;count(distinct sex) 返回了不同性别的种类(男、女);count(bonus) 返回了拥有奖金的员工数量,只有 9 名员工有奖金。
聚合函数的完整语法如下:
aggregate_function( [ALL | DISTINCT] expression)
其中,ALL 表示计算时不排除重复值。这是默认行为,通常省略。
📝MySQL 还支持更多的聚合函数,例如计算方差和标准差的 VAR_SAMP 和 STDDEV_SAMP 函数;详细列表可以参考官方文档。
聚合函数单独使用时,只能返回所有数据的整体汇总结果。如果我们想要按照不同的分组进行统计,例如按照部门统计员工的平均薪水、员工数量等,就要将聚合函数和GROUP BY
分组子句一起使用。
12.2 分组汇总
GROUP BY 子句可以将数据按照某种规则进行分组,并且为每一个组返回一条记录。在查询语句中使用分组子句的语法如下:
SELECT col1,
col2,
aggregate_function(expression)
FROM table_name
[WHERE conditions]
GROUP BY col1, col2;
例如,以下查询返回了不同部门中的员工数量和月薪总和:
select dept_id, count(*), sum(salary)
from employee
group by dept_id;
dept_id|count(*)|sum(salary)|
-------|--------|-----------|
1| 3| 80000.00|
2| 3| 41500.00|
3| 2| 18000.00|
4| 9| 68200.00|
5| 8| 40100.00|
以下语句同时按照部门和性别统计员工的数量:
select dept_id, sex, count(*)
from employee
group by dept_id, sex;
dept_id|sex |count(*)|
-------|----|--------|
1|男 | 3|
2|男 | 3|
3|女 | 2|
4|男 | 8|
4|女 | 1|
5|男 | 8|
以下语句统计了每年入职的员工数量:
select extract(year from hire_date) as "入职年份",
count(*) as "员工数量"
from employee
group by extract(year from hire_date);
入职年份|员工数量|
----|----|
2000| 3|
2006| 1|
2008| 1|
2007| 1|
2002| 2|
2005| 1|
2009| 1|
2011| 3|
2012| 2|
2010| 1|
2014| 1|
2017| 2|
2018| 5|
2019| 1|
GROUP BY 支持使用表达式进行分组。EXTRACT 函数用于提取日期中的年份信息,我们在后续文章中会介绍这个函数。
另外,GROUP BY 也可以使用字段在 SELECT 列表中出现的次序指定分组方式。上面的示例可以改写如下:
select extract(year from hire_date) as "入职年份",
count(*) as "员工数量"
from employee
group by 1;
extract(year from hire_date) 是查询返回的第 4 个字段;因此该语句也是按照年度统计入职的员工数量。
如果GROUP BY
后的分组字段存在 NULL 值,多个 NULL 值将被看作一个分组。以下语句按照不同奖金值统计员工的数量:
SELECT bonus, COUNT(*)
FROM employee
GROUP BY bonus;
bonus |COUNT(*)|
--------|--------|
10000.00| 3|
8000.00| 1|
[NULL]| 16|
5000.00| 2|
6000.00| 1|
2000.00| 1|
1500.00| 1|
从查询结果可以看出,16 个员工没有奖金;但是他们都被分组同一个组中,而不是多个不同的组。
在使用分组汇总时,初学者常见的一个错误就是在 SELECT 列表中使用了既不是聚合函数,也不属于分组字段的字段。例如:
-- GROUP BY 错误示例
select dept_id, emp_name, avg(salary)
from employee
group by dept_id;
ERROR 1055 (42000): Expression #2 of SELECT list is not in GROUP BY clause and contains nonaggregated column 'hrdb.employee.emp_name' which is not functionally dependent on columns in GROUP BY clause; this is incompatible with sql_mode=only_full_group_by
以上语句返回了一个错误:字段 emp_name 没有出现在 GROUP BY 子句或者聚合函数中。原因在于该查询按照部门进行分组,但是每个部门包含多个员工;因此无法确定需要显示哪个员工的姓名。
MySQL 通过 SQL 模式参数 ONLY_FULL_GROUP_BY 控制该行为,默认值表示遵循 SQL 标准;如果禁用该参数,以上示例不会出错。
另外,MySQL 也可以通过 ANY_VALUE 函数返回一个随机的数据,可以避免以上错误:
select dept_id, any_value(emp_name), avg(salary)
from employee
group by dept_id;
dept_id|any_value(emp_name)|avg(salary) |
-------|-------------------|------------|
1|刘备 |26666.666667|
2|诸葛亮 |13833.333333|
3|孙尚香 | 9000.000000|
4|赵云 | 7577.777778|
5|法正 | 5012.500000|
需要小心的是,any_value 函数返回的数据是不确定的。
12.3 分组过滤
当我们需要对分组后的数据再次进行过滤,例如找出人数多于 5 个的部门时,如果在 WHERE 子句中增加一个过滤条件:
select dept_id, count(*)
from employee
where count(*) > 5
group by dept_id;
ERROR 1111 (HY000): Invalid use of group function
该语句执行出错。错误的原因在于 WHERE 子句在 GROUP BY 子句之前执行,此时还没有计算聚合函数,因此它只能基于分组之前的数据进行过滤。如果需要对分组后的结果进行过滤,需要使用HAVING
子句。以上查询的正确写法如下:
select dept_id, count(*)
from employee
group by dept_id
having count(*) > 5;
dept_id|count(*)|
-------|--------|
4| 9|
5| 8|
HAVING 子句位于 GROUP BY 之后,并且必须与 GROUP BY 一起使用。
我们可以使用 WHERE 子句对表进行过滤,同时使用 HAVING 对分组结果进行过滤。例如,以下语句返回了存在 2 名以上女性员工的部门:
select dept_id, count(*) cnt
from employee
where sex = '女'
group by dept_id
having cnt >= 2;
dept_id|cnt|
-------|---|
3| 2|
首先通过 WHERE子句找出女性员工;然后,按照部门编号进行分组,计算每个组内的员工数量;最后,使用 HAVING 子句过滤员工数量等于或多于 2 个人的部门。MySQL 允许在 HAVING 子句中使用列的别名(cnt)进行过滤。
到目前为止,我们学习过的完整查询语句如下:
SELECT col1,
col2,
aggregate_function(expression)
FROM table_name
WHERE conditions
GROUP BY col1, col2
HAVING conditions
ORDER BY col1 [ASC | DESC], col2 [ASC | DESC], ...
LIMIT [off_set,] row_count;
对于以上各个子句,MySQL 的逻辑执行顺序为 FROM、WHERE、SELECT、GROUP BY、HAVING、ORDER BY 以及 LIMIT。
12.4 高级分组
MySQL 中的 GROUP BY 子句还支持一个WITH ROLLUP
选项,除了分组统计之外还会生成更高层级的汇总,类似于报表中的小计和总计。
首先创建一个销售数据表:
CREATE TABLE sales (
item VARCHAR(10),
year VARCHAR(4),
quantity INT
);
INSERT INTO sales VALUES('apple', '2018', 800);
INSERT INTO sales VALUES('apple', '2018', 1000);
INSERT INTO sales VALUES('banana', '2018', 500);
INSERT INTO sales VALUES('banana', '2018', 600);
INSERT INTO sales VALUES('apple', '2019', 1200);
INSERT INTO sales VALUES('banana', '2019', 1800);
使用以下查询可以返回按照产品和年度统计的销量小计,按照产品统计的销量合计,以及所有产品的销量总计:
select item, year, sum(quantity)
from sales
group by item, year with rollup;
item |year|sum(quantity)|
------|----|-------------|
apple |2018| 1800|
apple |2019| 1200|
apple | | 3000|
banana|2018| 1100|
banana|2019| 1800|
banana| | 2900|
| | 5900|
其中,第三行数据表示 apple 在所有年度的销量合计;最后一行表示所有产品在所有年度的销量总计。
对于以下形式的 WITH ROLLUP 而言:
GROUP BY col1, col2 WITH ROLLUP
实际上等价于以下三种分组统计的结果相加:
GROUP BY col1, col2
GROUP BY col1
GROUP BY null
使用了 WITH ROLLUP 选项之后,会产生一些数据为 NULL 的结果,表示相应字段上的汇总结果。但是这种显示方式意义不明确,而且如果原数据也有 NULL 数据,则无法进行区分。因此 MySQL 提供了GROUPING()
函数。
如果某个数据是汇总的小计或者总计,GROUPING() 函数返回 1;否则,返回 0。例如:
select item, year, sum(quantity), grouping(item), grouping(year), grouping(item, year)
from sales
group by item, year with rollup;
item |year|sum(quantity)|grouping(item)|grouping(year)|grouping(item, year)|
------|----|-------------|--------------|--------------|--------------------|
apple |2018| 1800| 0| 0| 0|
apple |2019| 1200| 0| 0| 0|
apple | | 3000| 0| 1| 1|
banana|2018| 1100| 0| 0| 0|
banana|2019| 1800| 0| 0| 0|
banana| | 2900| 0| 1| 1|
| | 5900| 1| 1| 3|
其中,第三行数据是按照年度计算的合计,grouping(item) 返回 0,grouping(year) 返回 1;最后一行是所有产品在所有年度的销量总计,grouping(item) 返回 1,grouping(year) 返回 1。grouping(item, year) 的计算方式是 grouping(item) * 2 + grouping(year)。
对于 grouping(col1, col2, col3),计算的方式如下:
grouping(col1) * 4 + grouping(col2) * 2 + grouping(col3)
我们可以将上面的示例修改如下:
select if(grouping(item) = 1, '所有产品', item) as "产品",
if(grouping(year) = 1, '所有年度', item) as "年度",
sum(quantity) as "销量"
from sales
group by item, year with rollup;
产品 |年度 |销量 |
---------|---------|----|
apple |apple |1800|
apple |apple |1200|
apple |所有年度 |3000|
banana |banana |1100|
banana |banana |1800|
banana |所有年度 |2900|
所有产品 |所有年度 |5900|
其中,IF(expr1,expr2,expr3) 函数当 expr1 为 TRUE 时(expr1 <> 0 and expr1 <> NULL)返回 expr2 的值;否则,返回 expr3 的值。
GROUPING() 函数可以用于 SELECT 列表、HAVING 子句以及 ORDER BY 子句中。