Talend Hive


在本章中,让我们了解如何在 Talend 上使用 Hive 作业。

创建 Talend Hive 作业


例如,我们将 NYSE 数据加载到配置单元表并运行基本配置单元查询。右键单击作业设计并创建一个新作业 - hivejob。提及作业的详细信息,然后单击完成。

Hive Job

将组件添加到 Hive 作业


要将组件添加到 Hive 作业,请将五个 talend 组件:tHiveConnection、tHiveCreateTable、tHiveLoad、tHive输入 和 tLogRow 从托盘拖放到设计器窗口。然后,右键单击 tHiveConnection 并为 tHiveCreateTable 创建 OnSubjobOk 触发器。现在,右键单击 tHiveCreateTable 并为 tHiveLoad 创建 OnSubjobOk 触发器。右键单击 tHiveLoad 并在 tHive输入 上创建迭代触发器。最后,右键单击 tHive输入 并为 tLogRow 创建一条主线。

Adding Components

配置组件和转换


在 tHiveConnection 中,选择分发为 cloudera 及其正在使用的版本。注意连接方式为standalone,Hive Service为Hive 2。同时检查以下参数是否设置相应:

  • 主持人:“quickstart.cloudera”
  • 端口:“10000”
  • 数据库:“默认”
  • 用户名:“Hive”

请注意,密码将自动填写,你无需编辑它。默认情况下,其他 Hadoop 属性也将被预设和设置。

Configuring Components

在 tHiveCreateTable 中,选择使用现有连接并将 tHiveConnection 放入组件列表中。给出要在默认数据库中创建的表名。保持其他参数如下所示。

Hive Create Table

在 tHiveLoad 中,选择“使用现有连接”并将 tHiveConnection 放入组件列表中。在加载操作中选择加载。在文件路径中,提供 NYSE 输入文件的 HDFS 路径。在表名称中提及要在其中加载输入的表。保持其他参数如下所示。

Existing  Connection

在 tHive输入 中,选择使用现有连接并将 tHiveConnection 放入组件列表中。单击编辑架构,添加列及其类型,如下面的架构快照所示。现在给出你在 tHiveCreateTable 中创建的表名。

将你的查询放在要在 Hive 表上运行的查询选项中。在这里,我们打印测试配置单元表中前 10 行的所有列。

Hive Connection Schema_of_tHive输入

在 tLogRow 中,单击同步列并选择表格模式以显示输出。

Table Mode

执行 Hive 作业


单击运行开始执行。如果所有连接和参数设置正确,你将看到查询的输出,如下所示。

Executing Hive Job