从这个题目来看,其实包含了两个要求,第一个要求就是:从MySQL
数据表中查询一条随机的记录。第二个要求就是要保证效率最高。
接下来,我们就来尝试使用各种方式来从MySQL
数据表中查询数据。
方法一
这是最原始最直观的语法,如下:
SELECT * FROM foo ORDER BY RAND() LIMIT 1;
当数据表中数据量较小时,此方法可行。但当数据量到达一定程度,比如100万
数据或以上,就有很大的性能问题。如果你通过EXPLAIN
来分析这个 语句,会发现虽然MySQL
通过建立一张临时表来排序,但由于ORDER BY
和LIMIT
本身的特性,在排序未完成之前,我们还是无法通过LIMIT
来获取需要的记录。亦即,你的记录有多少条,就必须首先对这些数据进行排序。
方法二
看来对于大数据量的随机数据抽取,性能的症结出在ORDER BY
上,那么如何避免?方法二提供了一个方案。
首先,获取数据表的所有记录数:
SELECT count(*) AS num_rows FROM foo;
然后,通过对应的后台程序记录下此记录总数(假定为num_rows
)。
然后执行:
SELECT * FROM foo LIMIT [0到num_rows之间的一个随机数]
1
上面这个随机数的获得可以通过后台程序来完成。此方法的前提是表的ID
是连续的或者自增长的。
这个方法已经成功避免了ORDER BY
的产生。
方法三
有没有可能不用ORDER BY
,用一个SQL
语句实现方法二?可以,那就是用JOIN
。
SELECT * FROM Bar B JOIN (SELECT CEIL(MAX(ID)*RAND()) AS ID FROM Bar) AS m ON B.ID >= m.ID LIMIT 1;
此方法实现了我们的目的,同时,在数据量大的情况下,也避免了ORDER BY
所造成的所有记录的排序过程,因为通过JOIN
里面的SELECT
语句实际上只执行了一次,而不是N
次(N
等于方法二中的num_rows
)。而且, 我们可以在筛选语句上加上“大于”符号,还可以避免因为ID
号不连续所产生的记录为空的现象。
在MySQL
中查询5
条不重复的数据,使用以下:
SELECT * FROM `table` ORDER BY RAND() LIMIT 5;
就可以了。但是真正测试一下才发现这样效率非常低。一个15
万余条的库,查询5
条数据,居然要8
秒以上
搜索Google
,网上基本上都是查询max(id) * rand()
来随机获取数据。
SELECT * FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `table`)) AS id) AS t2 WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 5;
但是这样会产生连续的5
条记录。解决办法只能是每次查询一条,查询5
次。即便如此也值得,因为15
万条的表,查询只需要0.01
秒不到。
上面的语句采用的是JOIN
,mysql
的论坛上有人使用
SELECT * FROM `table` WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `table` ) ORDER BY id LIMIT 1;
我测试了一下,需要0.5
秒,速度也不错,但是跟上面的语句还是有很大差距。总觉有什么地方不正常。
于是我把语句改写了一下。
SELECT * FROM `table` WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `table`))) ORDER BY id LIMIT 1;
这下,效率又提高了,查询时间只有0.01
秒
最后,再把语句完善一下,加上MIN(id)
的判断。我在最开始测试的时候,就是因为没有加上MIN(id)
的判断,结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:
SELECT * FROM `table` WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`))) ORDER BY id LIMIT 1;
SELECT * FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`)-(SELECT MIN(id) FROM `table`))+(SELECT MIN(id) FROM `table`)) AS id) AS t2 WHERE t1.id >= t2.id ORDER BY t1.id LIMIT 1;
最后对这两个语句进行分别查询10
次,
前者花费时间 0.147433
秒后者花费时间 0.015130
秒
看来采用JOIN
的语法比直接在WHERE
中使用函数效率还要高很多。
文章来源:https://baijiahao.baidu.com/s?id=1682499527063207883&wfr=spider&for=pc
另:如果是php结合,则可用如下方法
//先找出最大和最小的id
$re = MyModel::field([
'MAX(id) AS max_id',
'MIN(id) AS min_id',
])->where($where)->select()->toArray();
$re = current($re);
//随机取出中间的一个数
$id = rand($re['min_id'], $re['max_id']);
$data = MyModel::field($field)->where('id','>=',$id)->find();