mysql踩坑之countdistinct多列问题

2023-03-23 08:03:23 mysql countdistinct

背景

有个小伙伴在用Mysql做统计分析的时候发现有行数据凭空消失了。

最近我刚好在学习相关内容,所以对这个问题比较感兴趣,就研究了一下。

复现的测试数据库如下所示:

CREATE TABLE `test_distinct` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `a` varchar(50) CHARACTER SET utf8 DEFAULT NULL,
  `b` varchar(50) CHARACTER SET utf8 DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=latin1;

表内测试数据如下,现在我们需要统计这三列去重后的列的数量。

问题分析

小伙伴给了我四条用来定位问题的查询语句

SELECT COUNT(*) AS cnt FROM test_distinct;
SELECT COUNT(DISTINCT id, a, b) as cnt FROM test_distinct;
SELECT id, a, b, COUNT(*) AS cnt FROM test_distinct GROUP BY id, a, b HAVING cnt > 1;
SELECT 
	l.id AS l_id,
	l.a AS l_a,
	l.b AS l_b,
	r.id AS r_id,
	r.a AS r_a,
	r.b AS r_b
FROM test_distinct l LEFT JOIN test_distinct r
ON l.id = r.id AND l.a = r.a AND l.b = r.b
WHERE r.id is NULL or r.id = 'null';

查询结果,如下所示:

注意!!!从测试数据很快就能大概猜出问题在哪,但是原来表中数据是有3万多条,无法用肉眼查看数据。

上面查询结果违反直觉的点有两个:

  • 第二条去重统计后数据少了一条,但是,第三条数据的结果显示并没有相同的数据。
  • 用同一张表做左外连接出现了驱动表有数据,而被驱动表为空的情况。

先看第二个问题,官方文档上有如下解释:

  • 与ON一起使用的search_condition和WHERE子句中使用的条件表达式一样。 通常,ON子句用于指定如何连接表的条件,WHERE子句限制要包含在结果集中的行。
  • 如果对于LEFT JOIN中ON或USING部分中的条件,右表没有匹配的行,则右表使用所有列设置为NULL。
  • 不能使用算术比较运算符(如=,<或<>)来比较NULL。
SELECT NULL = NULL;
SELECT NULL IS NULL;

所以问题二在于NULL=NULL的结果永远为False,也就导致两行原本相等的数据结果却不相等。

可是这并没有解决第一个问题:为什么去重后有一条数据消失了。但是,我们可以猜测消失的数据很有可能和NULL值有关系。

我们将count和distinct两个操作分开:

SELECT COUNT(*) as cnt FROM (SELECT  DISTINCT id, a, b FROM test_distinct) as tmp;

嗯?结果是正确的,那就说明count(distinct expr)生成的查询计划可能和我们想象的不一样,并不是先去重再统计,使用explain分析一下两条语句的查询计划,如下所示:

从表中可以看到,mysql执行引擎直接将count(distinct expr)作为一个查询,查看官方文档:

解决办法

至此问题才终于弄清楚了。解决这个问题的办法有两种,第一种就是上述的先去重后统计,第二种可以利用IFNULL()函数:

SELECT COUNT(DISTINCT id, a, IFNULL(b, '0')) as cnt FROM test_distinct;

另外补充一点,count()嘚瑟使用:

SELECT id, a, b, COUNT(*) FROM test_distinct GROUP BY id, a, b;
SELECT id, a, b, COUNT(b) FROM test_distinct GROUP BY id, a, b;

知识点

  • 不能使用算术比较运算符(如=,<或<>)来比较空值;
  • count(distinct expr)返回expr列中不同的且非空的行数;
  • COUNT()有两个非常不同的作用:它可以统计某个列值的数量,也可以统计行数。在统计列值时要求列值是非空的(不统计NULL)。如果在COUNT()的括号中定了列或者列表达式,则统计的就是这个表达式有值的结果数。COUNT()的另一个作用是统计结果集的行数。当Mysql确认括号内的表达式值不可能为空时,实际上就是在统计行数。最简单的就是当我们使用COUNT()的时候,这种情况下通配符并不像我们猜想的那样扩展成所有的列,实际上,他会忽略所有列而直接统计所有的行数——《高性能MySQL》;
  • 在InnoDB中,SELECT COUNT(*)和SELECT COUNT(1)处理方式一样, 没有性能差异。

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。

相关文章