网站首页 > 博客文章 正文
温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github:
https://github.com/fayson/cdhproject
提示:代码块部分可以左右滑动查看噢
1
文档编写目的
Hue中使用Hive和Impala进行查询,在使用完Hue后退出登录,会出现Hive和Impala的暂用的资源未释放。本篇文章Fayson主要针对该问题在Hue中调优Impala和Hive查询,该调优方式适用于CDH5.2及以后版本。
- 内容概述
1.场景描述及测试用户准备
2.Impala资源池和放置规则配置
3.放置规则验证及总结
- 测试环境
1.CM和CDH版本为5.15
2
Hue中调优Impala
Hue会尝试在用户离开查询结果返回界面时关闭查询(通常查询会比较快完成,因此可以快速的关闭它们)。但是,如果用户执行的操作从未返回。或者,如果用户从未关闭查询页面,则查询任然保存打开状态。在CDH5.2中,Impala将自动使用“query_timeout_s”属性指定会话超时时间(默认为10分钟),在超时后自动取消查询,可以通过如下方式设置该参数。
1.使用管理员登录CM,进入Hue服务的配置界面
2.在搜索栏输入“hue*.ini”,在配置项中配置如下信息
[impala] query_timeout_s=600
(可左右滑动)
配置查询超时时间,单位为s,完成以上配置后根据CM提示重启相应服务即可。在此之前的版本,关闭所有查询的唯一解决方法则是重启Hue或Impala服务。
注意:Impala目前只能取消查询但不能关闭查询。他将在Impala 1575的版本中得到改进。JIRA地址如下:http://issues.cloudera.org/browse/IMPALA-1575
3
Hive调优
在CDH5.2版本中修复了HIVE-5799问题,HiveServer2可以通过配置会话超时时间。具体JIRA地址:https://issues.apache.org/jira/browse/HIVE-5799,如下来说明如何进行Hive调优:
1.使用管理员登录CM,进入Hive服务的配置界面
2.在左侧筛选器选择HiveServer2服务并在搜索栏输入“hive-site.xml”,在配置中增加如下内容:
<property> <name>hive.server2.session.check.interval</name> <value>3000</value> <description>The check interval for session/operation timeout, which can be disabled by setting to zero or negative value.</description> </property> <property> <name>hive.server2.idle.session.timeout</name> <value>0</value> <description>Session will be closed when it's not accessed for this duration, which can be disabled by setting to zero or negative value.</description> </property> <property> <name>hive.server2.idle.operation.timeout</name> <value>0</value> <description>Operation will be closed when it's not accessed for this duration of time, which can be disabled by setting to zero value. With positive value, it's checked for operations in terminal state only (FINISHED, CANCELED, CLOSED, ERROR). With negative value, it's checked for all of the operations regardless of state.</description> </property>
(可左右滑动)
完成修改后,保存配置并重启HiveServer2服务。
4
文总结
1.在Hue中进行Hive和Impala查询后,用户退出后不会自动的释放Hive和Impala的资源,因此该调优文章主要针对查询占用资源不释放问题。
2.通过设置Impala和HiveServer2的会话超时方式来释放查询占用的资源,已达到调优的目的。
提示:代码块部分可以左右滑动查看噢
为天地立心,为生民立命,为往圣继绝学,为万世开太平。
温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。
原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操
猜你喜欢
- 2024-10-16 10分钟大数据Hadoop基础入门「值得收藏」
- 2024-10-16 0288-如何使用Flume采集Kafka数据写入HBase
- 2024-10-16 0032-如何在CDH启用Kerberos的情况下安装及使用Sentry(二)
- 2024-10-16 0362-如何在Spark Streaming应用中使用Kudu管理Kafka的Offset
- 2024-10-16 使用ClouderaManager的优点、产生背景和应用场景
- 2024-10-16 大数据之Impala入门实战,看这篇就够了
- 2024-10-16 0732-Cloudera Data Center7.0今天正式GA
- 2024-10-16 清华大佬学习经验:Hadoop教程(一) Hadoop入门教程
- 2024-10-16 你了解过Cloudera的整体架构吗?4.89G学习视频带你走进它的世界
- 2024-10-16 大数据Hadoop之——基于Hive的内存型SQL查询引擎Impala
你 发表评论:
欢迎- 最近发表
- 标签列表
-
- powershellfor (55)
- messagesource (56)
- aspose.pdf破解版 (56)
- promise.race (63)
- 2019cad序列号和密钥激活码 (62)
- window.performance (66)
- qt删除文件夹 (72)
- mysqlcaching_sha2_password (64)
- ubuntu升级gcc (58)
- nacos启动失败 (64)
- ssh-add (70)
- jwt漏洞 (58)
- macos14下载 (58)
- yarnnode (62)
- abstractqueuedsynchronizer (64)
- source~/.bashrc没有那个文件或目录 (65)
- springboot整合activiti工作流 (70)
- jmeter插件下载 (61)
- 抓包分析 (60)
- idea创建mavenweb项目 (65)
- vue回到顶部 (57)
- qcombobox样式表 (68)
- vue数组concat (56)
- tomcatundertow (58)
- pastemac (61)
本文暂时没有评论,来添加一个吧(●'◡'●)