CM界面修改CDH hadoop-env配置

问题遇到的现象和发生背景

https://blog.csdn.net/weixin_41077058/article/details/121212412?spm=1001.2101.3001.6650.7&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7ERate-7.pc_relevant_default&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7ERate-7.pc_relevant_default&utm_relevant_index=13
使用普罗米修斯 整合CDH系统做监控
需要在hadoop-env修改配置,报错

问题相关代码,请勿粘贴截图

img

运行结果及报错内容

请问一下如何在CDH中配置hadoop-env文件

我的解答思路和尝试过的方法
我想要达到的结果

你这里有好多个问题

  1. cm界面配置选项有问题 应该选择 HDFS(服务范围)-搜索 "HDFS 服务环境高级配置代码段"
  2. 配置项里不能有export
  3. 使用HADOOP_NAMENODE_OPTS不是HDFS_NAMENODE_OPTS,这与hadoop版本有关

Hadoop配置文件

配置文件放置于/var/run/cloudera-scm-agent/process/目录下。如:/var/run/cloudera-scm-agent/process/193-hdfs-NAMENODE/core-site.xml。这些配置文件是通过Cloudera Manager启动相应服务(如HDFS)时生成的,内容从数据库中获得(即通过界面配置的参数)。

在CM界面上更改配置是不会立即反映到配置文件中,这些信息会存储于数据库中,等下次重启服务时才会生成配置文件。且每次启动时都会产生新的配置文件。

CM Server主要数据库为scm,其中放置配置的数据表为configs。里面包含了服务的配置信息,每一次配置的更改会把当前页面的所有配置内容添加到数据库中,以此保存配置修改历史。

scm数据库被配置成只能从localhost访问,如果需要从外部连接此数据库,修改vim /var/lib/cloudera-scm-server-db/data/pg_hba.conf文件,之后重启数据库。运行数据库的用户为cloudera-scm。

查看配置内容

1). 直接查询scm数据库的configs数据表的内容。
2). 访问REST API: http://hostname:7180/api/v4/cm/deployment,返回JSON格式部署配置信息。

配置生成方式
CM为每个服务进程生成独立的配置目录(文件)。所有配置统一在服务端查询数据库生成(因为scm数据库只能在localhost下访问)生成配置文件,再由agent通过网络下载包含配置文件的zip包到本地解压到指定的目录。

配置修改
CM对于需要修改的配置预先定义,对于没有预先定义的配置,则通过在高级配置项中使用xml配置片段的方式进行配置。而对于/etc/hadoop/下的配置文件是客户端的配置,可以在CM通过部署客户端生成客户端配置

望采纳哟
#在CDH中需在cm中配置(需测试)

hadoop-env.sh配置修改
打开文件: vim $HADOOP_HOME/etc/hadoop/hadoop-env.sh
在相应位置增加如下内容:

export HADOOP_OPTIONAL_TOOLS="hadoop-aliyun"
修改完成之后,重启Hadoop集群

#检查

hdfs dfs -ls oss://opay-datalake/

1.登录CM进入主页,点击“配置”

img


2.选择“数据库配置”

img


3.根据左边的范围修改相应服务的数据库配置

img


保存数据库主机名。
4.修改Hive元数据库配置

img


5.修改Hue元数据库配置

img


修改完成后,保存配置回到CM主页根据提示重启Cloudera Management Service和CDH相应服务。