Sqoop 导出


本章介绍如何将数据从 HDFS 导出回 RDBMS 数据库。目标表必须存在于目标数据库中。作为 Sqoop 输入的文件包含记录,这些记录称为表中的行。这些被读取并解析为一组记录,并使用用户指定的分隔符进行分隔。

默认操作是使用 INSERT 语句将输入文件中的所有记录插入到数据库表中。在更新模式下,Sqoop 生成将现有记录替换到数据库中的 UPDATE 语句。

语法


以下是导出命令的语法。

$ sqoop export (generic-args) (export-args) 
$ sqoop-export (generic-args) (export-args)

例子

让我们以 HDFS 中文件中的员工数据为例。员工数据可在 emp_data 在 HDFS 的 ‘emp/’ 目录中的文件。这 emp_data 如下。

1201, gopal,     manager, 50000, TP
1202, manisha,   preader, 50000, TP
1203, kalil,     php dev, 30000, AC
1204, prasanth,  php dev, 30000, AC
1205, kranthi,   admin,   20000, TP
1206, satish p,  grp des, 20000, GR

必须手动创建要导出的表,并且该表存在于必须从中导出的数据库中。

以下查询用于在 mysql 命令行中创建表‘employee’。

$ mysql
mysql> USE db;
mysql> CREATE TABLE employee ( 
    id INT NOT NULL PRIMARY KEY,
    name VARCHAR(20),
    deg VARCHAR(20),
    salary INT,
    dept VARCHAR(10));

以下命令用于导出表数据(在 emp_data HDFS 上的文件)复制到 Mysql 数据库服务器的 db 数据库中的员工表。

$ sqoop export \
--connect jdbc:mysql://本地主机/数据库\
--username root \
--table employee \ 
--export-dir /emp/emp_data

以下命令用于验证 mysql 命令行中的表。

mysql>select * from employee;

如果给定的数据存储成功,那么你可以找到下表给定的员工数据。

+------+--------------+-------------+-------------------+--------+
| Id   | Name         | Designation | Salary            | Dept   |
+------+--------------+-------------+-------------------+--------+
| 1201 | gopal        | manager     | 50000             | TP     |
| 1202 | manisha      | preader     | 50000             | TP     |
| 1203 | kalil        | php dev     | 30000             | AC     |
| 1204 | prasanth     | php dev     | 30000             | AC     |
| 1205 | kranthi      | admin       | 20000             | TP     |
| 1206 | satish p     | grp des     | 20000             | GR     |
+------+--------------+-------------+-------------------+--------+