在用flink catalog+hive做元数据持久化的时候还存在几个问题 1. DDL的字段信息都在properties中导致字段无法增删改,只能重新建表; 2. 生成的表没有owner信息; 3. HMS的权限对于Flink + hive并没有作用,无权限也可以直接引用表;
[email protected] 发件人: 19916726683 发送时间: 2020-12-24 13:59 收件人: user-zh 主题: Re: Flink catalog+hive问题 可以参考下这个 https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsPermissionsGuide.html 贴的代码是org.apache.hadoop.hive.io.HdfsUtils 的setFullFileStatus 方法 Original Message Sender:Rui [email protected] Recipient:[email protected] Date:Thursday, Dec 24, 2020 11:33 Subject:Re: Flink catalog+hive问题 Hello, 你贴的图看不到了。可以贴一下参考的官网链接。hive至少支持三种不同的authorization模式,flink目前对接hive时只有用storage based authorization会生效。 On Thu, Dec 24, 2020 at 10:51 AM 19916726683 [email protected] wrote: hive的官网有介绍ACL,如何继承权限关系。源码在Hive- HDFSUtils类中 核心代码应该是上面的这点。 Original Message *Sender:* Rui [email protected] *Recipient:* [email protected] *Date:* Wednesday, Dec 23, 2020 19:41 *Subject:* Re: Flink catalog+hive问题 hive的ACL用的是哪种呢?目前flink没有专门做ACL的对接,只有HMS端storage based authorization [1] 会生效 [1]https://cwiki.apache.org/confluence/display/Hive/LanguageManual+Authorization#LanguageManualAuthorization-1StorageBasedAuthorizationintheMetastoreServer On Wed, Dec 23, 2020 at 4:34 PM 19916726683 [email protected] wrote: spark是可以通过配置来确定是用hive的acl还是用自己的acl,不清楚flink是不是也是这种模式 Original Message Sender:[email protected][email protected] Recipient:[email protected] Date:Wednesday, Dec 23, 2020 15:53 Subject:Flink catalog+hive问题 在用flink catalog+hive做元数据持久化的时候,发现hive的ACL权限没有起作用,麻烦问下知道的大佬,flink是会直接跳过hive的ACL权限吗? [email protected] -- Best regards! Rui Li -- Best regards! Rui Li
