200 万行约 150 毫秒 MySQL MyISAM table

~150ms on a 2 million rows MySQL MyISAM table

我正在通过一个包含约 200 万行 + 约 600k 行(两个 MyISAM tables)的宠物项目了解 MySQL 性能。在两个 INT(10) 索引列上使用 BETWEEN 的范围查询,限制为 1 个返回结果大约需要 160 毫秒(包括 INNER JOIN)。我想我的配置没有优化,正在寻找一些关于如何诊断的建议,或者 "common configuration"。

我创建了一个 gist,其中包含 table、查询和 my.cnf 的内容。

我在插入从 MaxMinds open database 的 CSV 文件中导入的所有数据后创建了 b 树索引。我尝试了两个单独的,现在是一个组合索引,性能没有差异。

我 运行 在主频为 2.6GHz (i5) 和 8GB 1600MHz RAM 的 Macbook Pro 本地使用。 MySQL 是使用 mysql 下载页面 的可下载二进制文件安装的(无法提供第三个 link 因为我的代表太低)。这是一个默认安装,没有对 my.cnf 配置文件进行主要添加,包含在要点中(位于我系统的 /usr/local/mysql-5.6.xxx/ 目录下)。

我担心的是我达到了 ~160 毫秒,这表明我遗漏了一些东西。我考虑过压缩 table 但我觉得我缺少其他配置。另外 myisampack 不在我的 PATH 中(我认为)所以在我进一步探索之前我正在考虑其他优化。

如有任何建议,我们将不胜感激!

$ mysql --version
/usr/local/mysql-5.6.23-osx10.8-x86_64/bin/mysql  Ver 14.14 Distrib 5.6.23, for osx10.8 (x86_64) using  EditLine wrapper

表格

CREATE TABLE `blocks` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
  `begin_range` int(10) unsigned NOT NULL,
  `end_range` int(10) unsigned NOT NULL,
  `_location_id` int(11) unsigned DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `begin_range` (`begin_range`,`end_range`)
) ENGINE=MyISAM AUTO_INCREMENT=2008839 DEFAULT CHARSET=ascii;

CREATE TABLE `locations` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
  `country` varchar(2) NOT NULL DEFAULT '',
  `region` varchar(255) DEFAULT NULL,
  `city` varchar(255) DEFAULT NULL,
  `postalcode` varchar(255) DEFAULT NULL,
  `latitude` float NOT NULL,
  `longitude` float NOT NULL,
  `metro_code` int(11) DEFAULT NULL,
  `area_code` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=MyISAM AUTO_INCREMENT=641607 DEFAULT CHARSET=utf8;

查询

SELECT locations.latitude, locations.longitude
FROM blocks
INNER JOIN locations ON blocks._location_id = locations.id
WHERE INET_ATON('139.130.4.5') BETWEEN begin_range AND end_range
LIMIT 0, 1;

编辑; 在 SELECT 上用 EXPLAIN 更新了要点,为了方便起见也张贴在这里。

EXPLAIN SELECT locations.latitude, locations.longitude FROM blocks INNER JOIN locations ON blocks._location_id = locations.id WHERE INET_ATON('94.137.106.123') BETWEEN begin_range AND end_range LIMIT 0, 1;

+----+-------------+-----------+--------+---------------+-------------+---------+---------------------------+---------+------------------------------------+
| id | select_type | table     | type   | possible_keys | key         | key_len | ref                       | rows    | Extra                              |
+----+-------------+-----------+--------+---------------+-------------+---------+---------------------------+---------+------------------------------------+
|  1 | SIMPLE      | blocks    | range  | begin_range   | begin_range | 4       | NULL                      | 1095345 | Using index condition; Using where |
|  1 | SIMPLE      | locations | eq_ref | PRIMARY       | PRIMARY     | 4       | geoip.blocks._location_id |       1 | NULL                               |
+----+-------------+-----------+--------+---------------+-------------+---------+---------------------------+---------+------------------------------------+
2 rows in set (0.00 sec)

编辑2;为方便起见,将数据包含在问题中。

问题和正常方法(您的代码举例说明)导致命中 1095345 行。我有一种方法可以在 one 磁盘命中时执行该查询,即使缓存是冷的。

摘自http://mysql.rjweb.org/doc.php/ipranges

情况

您的数据包含大量非重叠 'ranges'。这些可能是 IP 地址、日期时间(单个站点的显示时间)、邮政编码等。

您有成对的开始值和结束值;一个 'item' 属于每个这样的 'range'。因此,本能地,您创建了一个 table,其中包含范围的开始和结束,以及有关该项目的信息。您的查询涉及一个 WHERE 子句,用于比较起始值和结束值之间的值。

问题

一旦获得大量项目,性能就会下降。您尝试使用索引,但找不到任何有效的方法。索引无法实现最佳功能,因为数据库不了解范围是非重叠的。

解决方案

我将提出一个解决方案,强制执行项目不能有重叠范围的事实。该解决方案构建了一个 table 来利用它,然后使用存储例程来解决它带来的笨拙。