背景
本文介绍 MySQL 8.0 shell 子模块 Util 的两个导入特性 importTable/import_table(JS和python 版本的命名差异)、importJson/import_json的使用方法。其中import_table 是通过传统 MySQL 协议来通信,Import_json 是通过 X 插件协议来通信。
MySQL 一直以来提供导入文件 SQL 命令 load data infile(单线程)以及对应的可执行文件 mysqlimport(多线程)。
比如我导入 100W 行示例数据到表 ytt.tl1, 花了 24 秒。这个已经是 MySQL 默认导入来的最快的。
  1. [root@mysql-dev ytt]# time mysqlimport --login-path=ytt_master --fields-terminated-by=, --use-threads=4 ytt /var/lib/mysql-files/tl1.csv

  2. ytt.tl1: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0


  3. real 0m24.815s

  4. user 0m0.013s

  5. sys 0m0.031s

分析
那我们现在看下 mysqlimport 工具的升级版,mysqlshell 的 util 工具集。使用这两个工具之前,必须得临时开启 local_infile 选项。
1. import_table
  1. [root@mysql-dev ytt]# mysqlsh

  2. MySQL Shell 8.0.17


  3. Copyright (c) 2016, 2019, Oracle and/or its affiliates. All rights reserved.

  4. Oracle is a registered trademark of Oracle Corporation and/or its affiliates.

  5. Other names may be trademarks of their respective owners.


  6. Type '\help' or '\?' for help; '\quit' to exit.

建立 3306 端口的新连接
  1. MySQL JS > \c admin@127.0.0.1:3306

  2. Creating a session to 'admin@127.0.0.1:3306'

  3. Fetching schema names for autocompletion... Press ^C to stop.

  4. Your MySQL connection id is 56

  5. Server version: 8.0.17 MySQL Community Server - GPL

  6. No default schema selected; type \use <schema>to set one.

我这里切换为 python 模式
  1. MySQL 127.0.0.1:3306 ssl JS > \py

  2. Switching to Python mode...

  3. MySQL 127.0.0.1:3306 ssl Py > \use ytt

  4. Default schema set to `ytt`.

清空掉示例表 Ytt.tl1
  1. MySQL 127.0.0.1:3306 ssl ytt Py > \sql truncate tl1;

  2. Fetching table and column names from `ytt` for auto-completion... Press ^C to stop.

  3. Query OK, 0 rows affected (0.2354 sec)

示例表表结构
  1. MySQL 127.0.0.1:3306 ssl ytt Py > \sql show create table tl1\G

  2. *************************** 1. row ***************************

  3. Table: tl1

  4. Create Table: CREATE TABLE `tl1` (

  5. `id` bigint(20) unsigned NOT NULL AUTO_INCREMENT,

  6. `r1` int(11) DEFAULT NULL,

  7. `r2` int(11) DEFAULT NULL,

  8. `r3` varchar(30) COLLATE utf8mb4_general_ci DEFAULT NULL,

  9. `r4` datetime DEFAULT NULL,

  10. PRIMARY KEY (`id`),

  11. UNIQUE KEY `id` (`id`)

  12. ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_general_ci

  13. 1 row in set (0.0011 sec)

import_table 有两个参数,第一个参数定义导入文件的路径,第二个定义相关选项,比如导入的格式,并发的数量等。
定义文件路径(参数1)
  1. MySQL 127.0.0.1:3306 ssl ytt Py > y_file1='/var/lib/mysql-files/tl1.csv'

定义选项(参数2)
  1. MySQL 127.0.0.1:3306 ssl ytt Py > y_options1={"schema":"ytt","table":"tl1","fieldsTerminatedBy":",","showProgress":True,"threads":4}

执行导入:
  1. MySQL 127.0.0.1:3306 ssl ytt Py > util.import_table(y_file1,y_options1);

  2. Importing from file '/var/lib/mysql-files/tl1.csv' to table `ytt`.`tl1` in MySQL Server at 127.0.0.1:3306 using 1 thread

  3. [Worker000] ytt.tl1: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0

  4. 100% (40.87 MB / 40.87 MB), 2.14 MB/s

  5. File '/var/lib/mysql-files/tl1.csv' (40.87 MB) was imported in 16.7394 sec at 2.44 MB/s

  6. Total rows affected in ytt.tl1: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0

只花了不到 17 秒,比传统 mysqlimport 快了不少。

我们上面指定了显式指定了字段分隔符,那有没有已经定义好的组合格式呢? 答案是有的,选项 dialect 可以指定以下格式:csv,tsvjsoncsv-unix

那么上面的导入,我们可以更简单,
改下变量 y_options1 的定义
  1. MySQL 127.0.0.1:3306 ssl ytt Py > \sql truncate tl1;

  2. Query OK, 0 rows affected (0.0776 sec)

  3. MySQL 127.0.0.1:3306 ssl ytt Py > y_options1={"schema":"ytt","table":"tl1","dialect":"csv-unix","showProgress":True,"threads":4}

  4. MySQL 127.0.0.1:3306 ssl ytt Py > util.import_table(y_file1,y_options1);

  5. Importing from file '/var/lib/mysql-files/tl1.csv' to table `ytt`.`tl1` in MySQL Server at 127.0.0.1:3306 using 1 thread

  6. [Worker000] ytt.tl1: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0

  7. 100% (40.87 MB / 40.87 MB), 2.67 MB/s

  8. File '/var/lib/mysql-files/tl1.csv' (40.87 MB) was imported in 14.1000 sec at 2.90 MB/s

  9. Total rows affected in ytt.tl1: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0

导入时间差不多。这里要说明下,dialect 选项的优先级比较低,比如添加了’linesTerminatedBy’:’\r\n’, 则覆盖他自己的’\n’。
选项 diaelect 还有一个可选值为 json,可以直接把 json 结果导入到文档表里。比如我新建一张表 tl1_json
  1. MySQL 127.0.0.1:3306 ssl ytt Py > \sql create table tl1_json(

  2. id bigint primary key,

  3. content json);

  4. Query OK, 0 rows affected (0.3093 sec)

重新定义文件以及导入选项。
  1. MySQL 127.0.0.1:3306 ssl ytt Py > y_file2='/var/lib/mysql-files/tl1.json'

  2. MySQL 127.0.0.1:3306 ssl ytt Py > rows=['content']

  3. MySQL 127.0.0.1:3306 ssl ytt Py > y_options2={"schema":"ytt","table":"tl1_json","dialect":"json","showProgress":True,"threads":4,'columns':rows}

导入 JSON 数据
  1. MySQL 127.0.0.1:3306 ssl ytt Py > util.import_table(y_file2,y_options2)

  2. Importing from file '/var/lib/mysql-files/tl1.json' to table `ytt`.`tl1_json` in MySQL Server at 127.0.0.1:3306 using 2 threads

  3. [Worker000] ytt.tl1_json: Records: 464633 Deleted: 0 Skipped: 0 Warnings: 0

  4. [Worker001] ytt.tl1_json: Records: 583943 Deleted: 0 Skipped: 0 Warnings: 0

  5. 100% (90.15 MB / 90.15 MB), 2.71 MB/s

  6. File '/var/lib/mysql-files/tl1.json' (90.15 MB) was imported in 23.3530 sec at 3.86 MB/s

  7. Total rows affected in ytt.tl1_json: Records: 1048576 Deleted: 0 Skipped: 0 Warnings: 0

速度也还可以,不到 24 秒。
那导入 json 数据,就必须得提到以 X 插件协议通信的工具 import_json了。
2. imort_json
我们切换到 mysqlx 端口
  1. MySQL 127.0.0.1:3306 ssl ytt Py > \c admin@127.0.0.1:33060

  2. Creating a session to 'admin@127.0.0.1:33060'

  3. Fetching schema names for autocompletion... Press ^C to stop.

  4. Closing old connection...

  5. Your MySQL connection id is 16 (X protocol)

  6. Server version: 8.0.17 MySQL Community Server - GPL

  7. No default schema selected; type \use <schema> to set one.

  8. MySQL 127.0.0.1:33060+ ssl Py > \use ytt

  9. Default schema `ytt` accessible through db.

  10. -- 清空表tl1_json

  11. MySQL 127.0.0.1:33060+ ssl ytt Py > \sql truncate tl1_json;

  12. Query OK, 0 rows affected (0.1098 sec)

import_json 参数和 Import_table 参数类似,
这里我改下选项
  1. MySQL 127.0.0.1:33060+ ssl ytt Py > y_file3=y_file2


  2. MySQL 127.0.0.1:33060+ ssl ytt Py > y_options3={"schema":"ytt","table":"tl1_json",'tableColumn':'content'}


  3. MySQL 127.0.0.1:33060+ ssl ytt Py > util.import_json(y_file3,y_options3)

  4. Importing from file "/var/lib/mysql-files/tl1.json" to table `ytt`.`tl1_json` in MySQL Server at 127.0.0.1:33060


  5. .. 517776.. 1032724.. 1048576.. 1048576

  6. Processed 90.15 MB in 1048576 documents in 35.2400 sec (29.76K documents/s)

  7. Total successfully imported documents 1048576 (29.76K documents/s)

我在手册上没有看到多线程的选项,所以单线程跑 35 秒慢了些。
查看刚刚导入的数据
  1. MySQL 127.0.0.1:33060+ ssl ytt Py > \sql select id,json_pretty(content) from tl1_json limit 1\G

  2. *************************** 1. row ***************************

  3. id: 1

  4. json_pretty(content): {

  5. "id": 1,

  6. "r1": 10,

  7. "r2": 10,

  8. "r3": "mysql",

  9. "r4": "2019-09-16 16:49:50.000000"

  10. }

  11. 1 row in set (0.0007 sec)

import_json 不仅仅可以导入 Json 数据,更重要的是可以在 BSON 和 JSON 之间平滑的转换,有兴趣的同学可以去 TRY 下。

社区近期动态

No.1

10.26 DBLE 用户见面会 北京站

爱可生开源社区将在 2019 年 10 月 26 日迎来在北京的首场 DBLE 用户见面会,以线下互动分享的会议形式跟大家见面。

时间:10月26日 9:00 – 12:00 AM

地点:HomeCafe 上地店(北京市海淀区上地二街一号龙泉湖酒店对面)


重要提醒:

1. 同日下午还有 dbaplus 社群举办的沙龙:聚焦数据中台、数据架构与优化。

2. 爱可生开源社区会在每年10.24日开源一款高质量产品。本次在 dbaplus 沙龙会议上,爱可生的资深研发工程师闫阿龙,将为大家带来《金融分布式事务实践及txle概述》,并在现场开源。

No.2

Mycat 问题免费诊断

诊断范围支持:

Mycat 的故障诊断、源码分析、性能优化

服务支持渠道:

  1. 技术交流群,进群后可提问

    QQ群(669663113)

  2. 社区通道,邮件&电话

    osc@actionsky.com

  3. 现场拜访,线下实地,1天免费拜访

关注“爱可生开源社区”公众号,回复关键字“Mycat”,获取活动详情。

No.3

社区技术内容征稿

征稿内容:

  1. 格式:.md/.doc/.txt

  2. 主题:MySQL、分布式中间件DBLE、数据传输组件DTLE相关技术内容

  3. 要求:原创且未发布过

  4. 奖励:作者署名;200元京东E卡+社区周边

投稿方式:

  1. 邮箱:osc@actionsky.com

  2. 格式:[投稿]姓名+文章标题

  3. 以附件形式发送,正文需注明姓名、手机号、微信号,以便小编及时联系