• 企业400电话
  • 网络优化推广
  • AI电话机器人
  • 呼叫中心
  • 全 部 栏 目

    网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    DataGrip 连接 HiveServer2 报错的问题
    POST TIME:2021-10-18 23:57

    DataGrip 连接 HiveServer2 报错

    一、Heap memory

    Exception in thread "main" java.lang.OutOfMemoryError: Java heap space

    因为 DataGrip 会开好几个 Session,我这里是 4 个 Session

    因此有时候如果执行的语句过大,会造成堆内存来不起回收。导致堆内存溢出,反应在 DataGrip 就是执行语句卡住没反应,等很久然后报错。这里有个超时时间,等很久就是超过这个超时时间后报错。

    我们可以适当调大 heap 内存:

    # 在 hive/bin 目录下的 hive-config.sh,最后一行就是设置 heap 的大小。
     69 # Default to use 256MB
     70 export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}

    二、Too many open files

    lzq@hadoop102 ~ ulimit -a
    -t: cpu time (seconds)    unlimited
    -f: file size (blocks)    unlimited
    -d: data seg size (kbytes)   unlimited
    -s: stack size (kbytes)    8192
    -c: core file size (blocks)   0
    -m: resident set size (kbytes)  unlimited
    -u: processes      10000
    -n: file descriptors    4096
    -l: locked-in-memory size (kbytes) 64
    -v: address space (kbytes)   unlimited
    -x: file locks      unlimited
    -i: pending signals     31830
    -q: bytes in POSIX msg queues  819200
    -e: max nice      0
    -r: max rt priority     0
    -N 15:        unlimited

    修改最大文件连接数量

    vim /etc/security/limits.conf 
    在最后加入
    * soft nofile 65535 
    * hard nofile 65535 

    安装 lsof

     sudo yum install lsof -y

    查看当前系统打开的文件数量

    lsof | wc -l 
    watch "lsof | wc -l" 
     lzq@hadoop102 ~ jps
    25696 Jps
    1522 NameNode
    22627 RunJar
    1716 DataNode
    3140 Kafka
    2309 NodeManager
    2647 QuorumPeerMain
    22889 RunJar
    23322 RunJar

    查看某一进程的打开文件数量

    # RunJar 就是 HiveServer2 的进程
    lsof -p pid | wc -l 
    lsof -p 22627 | wc -l 
    lsof -p 22889 | wc -l
    lsof -p 23322 | wc -l

    到此这篇关于DataGrip 连接 HiveServer2 报错的文章就介绍到这了,更多相关DataGrip 连接 HiveServer2 报错内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

    您可能感兴趣的文章:
    • 使用DataGrip连接Hive的详细步骤
    上一篇:使用DataGrip的详细教程
    下一篇:SQL语句中公共字段的自动填充方法
  • 相关文章
  • 

    关于我们 | 付款方式 | 荣誉资质 | 业务提交 | 代理合作


    © 2016-2020 巨人网络通讯

    时间:9:00-21:00 (节假日不休)

    地址:江苏信息产业基地11号楼四层

    《增值电信业务经营许可证》 苏B2-20120278

    X

    截屏,微信识别二维码

    微信号:veteran88

    (点击微信号复制,添加好友)

     打开微信