通过Yarn模式提交任务时报错Caused by: java.lang.ClassNotFoundException: com.dtstack.flink.sql.source.kafka.KafkaConsumer010
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 35/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- java, kafka, mysql
- Lĩnh vực
- backend, databases, distributed-systems
Hướng nghiên cứu
Bắt đầu với submit.sh và các thư mục plugin được truyền qua -remoteSqlPluginPath và -localSqlPluginPath, sau đó tái hiện lệnh đã cung cấp trong -mode yarn. Kiểm tra cách KafkaConsumer010 được tải trong quá trình gửi lên Yarn; hoàn tất khi cùng một SQL job được gửi mà không gặp ClassNotFoundException đã báo cáo.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
### sql文件内容如下：
CREATE TABLE sourceKafkaTable(
id int as id,
name varchar as name
)WITH(
type ='kafka10',
bootstrapServers ='spark01:9092,spark02:9092',
zookeeperQuorum ='spark01:2181,spark02:2181/brokers',
offsetReset ='latest',
topic ='flink1',
parallelism ='1'
);
CREATE TABLE sideMysqlTable(
id int,
cname varchar,
PRIMARY KEY(id),
PERIOD FOR SYSTEM_TIME
)WITH(
type='mysql',
url='jdbc:mysql://192.168.181.15:3306/hive?charset=utf8',
userName='root',
password='6666526',
tableName='side_order',
cache ='LRU',
cacheSize ='10000',
cacheTTLMs ='60000',
parallelism ='1',
partitionedJoin='false'
);
CREATE TABLE sinkMysqlTable(
id int,
name varchar,
cname varchar
)WITH(
type ='mysql',
url ='jdbc:mysql://192.168.181.15:3306/hive?charset=utf8',
userName ='root',
password ='6666526',
tableName ='result_order',
parallelism ='1'
);
insert into sinkMysqlTable
select
d.id,
d.name,
d.cname
from
(select
a.id,a.name,b.cname
from
sourceKafkaTable a
join
sideMysqlTable b
on a.id=b.id) as d
================================================================
### 提交的命令如下：
sh submit.sh -sql /home/flinksql.txt -name flinkstream -remoteSqlPluginPath /home/FlinkStreamSQL-1.8.0-new/plugins -localSqlPluginPath /home/FlinkStreamSQL-1.8.0-new/plugins -mode yarn -yarnconf /home/hadoop-2.6.0/etc/hadoop -flinkconf /home/flink-1.8.0/conf -confProp {"time.characteristic":"EventTime","sql.checkpoint.interval":10000} -yarnSessionConf {"yid":"application_1582170401251_0003"}
================================================================
### 报如下错误：
- Ngôn ngữ chính
- Java
- Star
- 2k
- Fork
- 913
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của DTStack/flinkStreamSQL
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100
DTStack/flinkStreamSQL#467 · 1 bình luận ·
-
这个如何引入使用flink-connector-hive啊 Đang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
DTStack/flinkStreamSQL#437 · 3 bình luận ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 38/100
DTStack/flinkStreamSQL#432 · 1 bình luận ·
-
新版FlinkStreamSQL已经融合进FlinkX项目 Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
DTStack/flinkStreamSQL#431 ·
-
有无对sql 语法校验的方法 Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
DTStack/flinkStreamSQL#430 · 1 bình luận ·
Tất cả issue của DTStack/flinkStreamSQL
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
elastic/gradle-plugins#157 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
cryptomator/hub#497 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
johanhaleby/occurrent#1120 ·