Introduction

HiveServer2(HS2)是一项服务,使 Client 端能够对 Hive 执行查询。 HiveServer2 是不推荐使用的HiveServer1的后继产品。 HS2 支持多 Client 端并发和身份验证。它旨在为 JDBC 和 ODBC 等开放 APIClient 端提供更好的支持。

HS2 是作为复合服务运行的单个进程,其中包括基于 Thrift 的 Hive 服务(TCP 或 HTTP)和用于 Web UI 的Jetty Web 服务器。

HS2 Architecture

基于 Thrift 的 Hive 服务是 HS2 的核心,并负责为 Hive 查询提供服务(例如,来自 Beeline)。 Thrift是用于构建跨平台服务的 RPC 框架。它的堆栈由 4 层组成:服务器,传输,协议和处理器。您可以在https://thrift.apache.org/docs/concepts找到有关图层的更多详细信息。

HS2 实现中这些层的用法如下所述。

Server

HS2 将 TThreadPoolServer(来自 Thrift)用于 TCP 模式,或将 Jetty 服务器用于 HTTP 模式。

TThreadPoolServer 为每个 TCP 连接分配一个工作线程。每个线程始终与一个连接相关联,即使该连接处于空闲状态也是如此。因此,由于大量并发连接,大量线程导致了潜在的性能问题。将来,HS2 可能会切换到另一种用于 TCP 模式的服务器类型,例如 TThreadedSelectorServer。这是有关不同 Thrift Java 服务器之间性能比较的article

Transport

当 Client 端和服务器之间需要代理时(例如,出于负载平衡或安全原因),需要使用 HTTP 模式。这就是为什么支持它以及 TCP 模式的原因。您可以通过 Hive 配置属性hive.server2.transport.mode指定 Thrift 服务的传输模式。

Protocol

协议实现负责序列化和反序列化。 HS2 当前正在使用 TBinaryProtocol 作为 Thrift 协议进行序列化。将来,基于更多的性能评估,可能会考虑其他协议,例如 TCompactProtocol。

Processor

流程实现是处理请求的应用程序逻辑。例如,ThriftCLIService.ExecuteStatement()方法实现了用于编译和执行 Hive 查询的逻辑。

HS2 的依存关系

您可以找到 HS2 及其依赖关系here之间的交互关系图。

JDBC Client

建议 Client 端使用 JDBC 驱动程序与 HS2 进行交互。请注意,在某些用例(例如Hadoop Hue)中,直接使用 ThriftClient 端而绕过 JDBC。

这是进行第一个查询所涉及的一系列 API 调用:

源代码说明

以下各节可帮助您在源代码中找到 HiveServer2 的一些基本组件。

Server Side

Client Side

Client 端和服务器之间的交互

Resources

如何设置 HS2:设置 HiveServer2

HS2Client:HiveServer2 Clients

用户界面:HiveServer2 的 Web UI

Metrics: Hive Metrics

HS2 上的 Cloudera 博客:http://blog.cloudera.com/blog/2013/07/how-hiveserver2-brings-security-and-concurrency-to-apache-hive/

首页