Re: 远程提交代码到Flink集群

2019-04-03 文章 张军
https://eng.uber.com/athenax/ uber开源的athenax项目就是将JobGraph直接提交到集群,你可以参考下 > 在 2019年4月3日,上午11:33,文报 <1010467...@qq.com> 写道: > > 感谢各位的来信。 > >

Re: 1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 Biao Liu
Hi, 按照你给出的部分代码,看不出问题所在,按道理是不应该的 建议给出更详细的信息,可以考虑以下几个方面 1. 完整可复现的代码(可以放到附件中),方便其他同学复现问题 2. 具体使用版本 PS: 如果你确认不是你测试环境/代码的问题,甚至可以直接建 jira issue 来反馈 bug,参见 https://flink.apache.org/how-to-contribute.html#file-a-bug-report 天边的云 于2019年4月3日周三 下午3:24写道: > 如题,按照官方例子 >

回复: 1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 天边的云
我看社区已经有人反馈了此问题,看上去像是1.6对BlobServer做了改动导致的? https://issues.apache.org/jira/browse/FLINK-10370?jql=project%20%3D%20FLINK%20AND%20text%20~%20%22registerCachedFile%22 在2019年4月3日 16:26,Biao Liu 写道: Hi, 按照你给出的部分代码,看不出问题所在,按道理是不应该的 建议给出更详细的信息,可以考虑以下几个方面 1. 完整可复现的代码(可以放到附件中),方便其他同学复现问题 2. 具体使用版本 PS:

Re: 1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 Biao Liu
不要用 detached job-mode 就好了呀,用 session mode 天边的云 于2019年4月3日周三 下午4:55写道: > Hi,除了DistributedCache机制。flink on yarn还有什么方法可以解决 在TaskManager中读取配置文件路径的办法吗? > 在2019年4月3日 16:39,Biao Liu 写道: > Hi, 该 issue 中 Till 已经进行了说明,看起来是 detached job-mode 的 bug,目前社区版确实对 job-mode > 支持的不太好,坑比较多,建议不要使用 > > 天边的云

1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 天边的云
如题,按照官方例子 env9.registerCachedFile("hdfs://xxx/key", "key"); ... .map( new RichMapFunction() { @Override public String map(String value) throws Exception { return value; } @Override public void open(Configuration parameters) { DistributedCache

Re: 1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 Biao Liu
Hi, 该 issue 中 Till 已经进行了说明,看起来是 detached job-mode 的 bug,目前社区版确实对 job-mode 支持的不太好,坑比较多,建议不要使用 天边的云 于2019年4月3日周三 下午4:28写道: > 我看社区已经有人反馈了此问题,看上去像是1.6对BlobServer做了改动导致的? > > https://issues.apache.org/jira/browse/FLINK-10370?jql=project%20%3D%20FLINK%20AND%20text%20~%20%22registerCachedFile%22 > > >

回复: 1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 天边的云
Hi,除了DistributedCache机制。flink on yarn还有什么方法可以解决 在TaskManager中读取配置文件路径的办法吗? 在2019年4月3日 16:39,Biao Liu 写道: Hi, 该 issue 中 Till 已经进行了说明,看起来是 detached job-mode 的 bug,目前社区版确实对 job-mode 支持的不太好,坑比较多,建议不要使用 天边的云 于2019年4月3日周三 下午4:28写道: 我看社区已经有人反馈了此问题,看上去像是1.6对BlobServer做了改动导致的?

1.7.1版本getDistributedCache().getFile("key")失败问题

2019-04-03 文章 天边的云
如题,按照官方例子 env9.registerCachedFile("hdfs://xxx/key", "key"); ... .map( new RichMapFunction() { @Override public String map(String value) throws Exception { return value; } @Override public void open(Configuration parameters) { File file =

flink on yarn ???? ????????

2019-04-03 文章 1900
env.enableCheckpointing(5000); ??yarn ??job 1.?? 2.hdfs??

Re: flink on yarn 模式 日志问题

2019-04-03 文章 Biao Liu
Hi, 首先,Flink 框架的日志应该不多,不知道具体涉及到 checkpoint 的是哪些 log 呢?(建议以后提问给出尽可能详细的信息,例如使用版本和 log 文件) 1. log 是通过 log4j/logback 等第三方系统控制,conf 文件夹中有相应配置文件,可以调整整体或单个 logger 的 level,建议查阅相关系统资料 2. Flink on YARN 模式下,一般访问 log 是通过 Flink web UI 跳转查看。如果坚持想找到具体 log 文件,Application 结束前在本地文件,可通过 container 进程启动命令看到具体 log

?????? flink on yarn ???? ????????

2019-04-03 文章 1900
?? flink1.7.2??hadoop??2.8.5,flink on yarn ha?? run a job on yarn 1.env.enableCheckpointing(5000); 2019-04-04 13:23:50,176 INFO