Re:回复:回复:flink sql 依赖隔离

2021-07-26 文章 Michael Ran
-zh ; silence >主 题:Re:回复:flink sql 依赖隔离 > >建议上传的时候单独放,提交任务的时候 拉下来单独引用 >在 2021-07-23 11:01:59,"silence" 写道: >> >>这边目前主要还是yarn,目前痛点是同一个sql任务会用到多个udf,udf通过-C http://xxx.jar进行加载 >>udf和sql jar之间、udf和udf之间都可能会有依赖冲

回复:回复:flink sql 依赖隔离

2021-07-25 文章 silence
就是单独引用的啊,但任务逻辑比较复杂时会同时混用多个udf这个是没法避免的啊 -- 发件人:Michael Ran 发送时间:2021年7月23日(星期五) 17:42 收件人:user-zh ; silence 主 题:Re:回复:flink sql 依赖隔离 建议上传的时候单独放,提交任务的时候 拉下来单独引用 在 2021-07-23 11:01:59,"silence" 写道: > >这边目前主要还是yarn,

Re:回复:flink sql 依赖隔离

2021-07-23 文章 Michael Ran
建议上传的时候单独放,提交任务的时候 拉下来单独引用 在 2021-07-23 11:01:59,"silence" 写道: > >这边目前主要还是yarn,目前痛点是同一个sql任务会用到多个udf,udf通过-C http://xxx.jar进行加载 >udf和sql jar之间、udf和udf之间都可能会有依赖冲突, >目前初步想法是每个udf绑定一个jarpath,使用独立的classloader进行加载,避免和主jar以及其他udf之间的依赖冲突

回复:flink sql 依赖隔离

2021-07-22 文章 silence
这边目前主要还是yarn,目前痛点是同一个sql任务会用到多个udf,udf通过-C http://xxx.jar进行加载 udf和sql jar之间、udf和udf之间都可能会有依赖冲突, 目前初步想法是每个udf绑定一个jarpath,使用独立的classloader进行加载,避免和主jar以及其他udf之间的依赖冲突 -- 发件人:Michael Ran 发送时间:2021年7月22日(星期四) 20:07 收件人:user-zh ; silence

Re:Re: flink sql 依赖隔离

2021-07-22 文章 Michael Ran
我看阿里不是传到OSS,然后每个任务 image 拉取下来的时候顺便就把jar 拉进来了。完全隔离的,jar 也方便管理 在 2021-07-22 23:45:14,"Jeff Zhang" 写道: >Zeppelin 支持依赖的动态加载 >https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s >https://www.yuque.com/jeffzhangjianfeng/gldg8w/dthfu2 > > >Michael Ran 于2021年7月22日周四 下午8:07写道: > >>

Re: flink sql 依赖隔离

2021-07-22 文章 Jeff Zhang
Zeppelin 支持依赖的动态加载 https://www.yuque.com/jeffzhangjianfeng/gldg8w/rn6g1s https://www.yuque.com/jeffzhangjianfeng/gldg8w/dthfu2 Michael Ran 于2021年7月22日周四 下午8:07写道: > 通过任务进行隔离引用呗。你们美团已经是k8s了吧? > 在 2021-07-05 14:06:53,"silence" 写道: > >请教大家目前flink sql有没有办法做到依赖隔离 > >比如connector,format,udf(这个最重要)等,

回复:flink sql 依赖隔离

2021-07-05 文章 silence
没用放在lib下,是启动时通过-C动态添加udf jar,一个sql作业可能会用到很多udf,可能是不同的用户写的,所以经常会出现依赖冲突 -- 发件人:yzhhui 发送时间:2021年7月5日(星期一) 14:09 收件人:user-zh@flink.apache.org ; silence 抄 送:user-zh 主 题:回复:flink sql 依赖隔离 提交任务的时候提交自己的jar就好了,这个不要放公共lib下 就OK 在2021年

flink sql 依赖隔离

2021-07-05 文章 silence
请教大家目前flink sql有没有办法做到依赖隔离 比如connector,format,udf(这个最重要)等, 很多情况下不同用户定义的组件会经常混用,会有很多的依赖冲突问题难以解决。 目前有没有办法做到udf的依赖隔离(比如不同的udf使用独立的jar和classloader),或者社区对此有没有什么规划