• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    一次Mysql使用IN大数据量的优化记录

    mysql版本号是5.7.28,表A有390W条记录,使用InnoDB引擎,其中varchar类型字段mac已建立索引,索引方法为B-tree。B表仅有5000+条记录。

    有一条SQL指令是这样写的:

    SELECT * FROM A WHERE mac IN("aa:aa:aa:aa:aa:aa","bb:bb:bb:bb:bb:b",...此外省略900+条)
    

    通过查询出来的结果耗时294.428s。没错,将近5分钟。

    使用EXPLAIN分析下:

    访问类型type是range,且已命中索引,rows行也只有587776,可为什么查询耗时要这么久?

    mac的索引方法使用了B-tree,那对比下它与HASH的区别,简单地总结下:B-tree索引可以用于进行 =,>,>=,,=和between的计算,而HASH只能进行等值运算,不能进行范围查找。那IN是等值运算,两种索引方法都适用。即然这样,把mac的索引方法修改为HASH,同样的查询耗时为。

    既然调整索引方法并不能明显地提升语句的查询性能,那只能从语句本身中进行处理。其实明眼人刚开始一看就知道,SELECT * 是很耗性能的,那我们只查业务上需要的字段,语句调整为:

    SELECT id,mileage FROM A WHERE mac IN("aa:aa:aa:aa:aa:aa","bb:bb:bb:bb:bb:b",...此外省略900+条)
    

    耗时并没有明显的提升。

    竟然IN的方式这么难优化,是不是可以放弃使用LEFT JOIN呢?语句调整为:

    SELECT a.id,a.mileage FROM A a LEFT JOIN B b ON b.mac = a.mac WHERE b.create_time >= '2020-01-01'
    

    耗时超过5分钟,放弃。

    我们知道,在条件量少的情况,EXISTS和IN的效果没有显示的差别。但条件多的时候,IN要比EXISTS的效率也高,来试下EXISTS:

    SELECT id,mileage FROM A a WHERE EXISTS(SELECT mac FROM B WHERE create_time >= '2020-01-01' AND mac = a.mac)
    

    耗时也是超过5分钟,IN的效率确实要比EXISTS高,放弃。

    所以最后的结论是,如果IN后接大数据量的String,要慎重。

    在项目中我把mac作为唯一标识建立与id的对应表,在A表使用mac_id代替mac,查询的时候使用IN(1,2,3...)。效率会提高一些。当前使用NoSQL也是一种方式。

    总结

    到此这篇关于一次Mysql使用IN大数据量优化的文章就介绍到这了,更多相关Mysql使用IN大数据量优化内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

    您可能感兴趣的文章:
    • MYSQL IN 与 EXISTS 的优化示例介绍
    • MySQL中对于not in和minus使用的优化
    • MySql如何使用not in实现优化
    • MySQL中or、in、union与索引优化详析
    • MySQL之select in 子查询优化的实现
    上一篇:详解mysql慢日志查询
    下一篇:MySQL如何通过Navicat实现远程连接
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    一次Mysql使用IN大数据量的优化记录 一次,Mysql,使用,大,数据,