通过Yarn模式提交任务时报错Caused by: java.lang.ClassNotFoundException: com.dtstack.flink.sql.source.kafka.KafkaConsumer010
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 35/100
- Type d'issue
- Bug
- Clarté
- À clarifier
- Activité
- À l'abandon
- Stack technique
- java, kafka, mysql
- Domaine
- backend, databases, distributed-systems
Piste de recherche
Commencez par submit.sh et les répertoires de plugins transmis via -remoteSqlPluginPath et -localSqlPluginPath, puis reproduisez la commande fournie avec -mode yarn. Vérifiez comment KafkaConsumer010 est chargé lors de la soumission à Yarn ; le travail est terminé lorsque le même job SQL est soumis sans la ClassNotFoundException signalée.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
### sql文件内容如下:
CREATE TABLE sourceKafkaTable(
id int as id,
name varchar as name
)WITH(
type ='kafka10',
bootstrapServers ='spark01:9092,spark02:9092',
zookeeperQuorum ='spark01:2181,spark02:2181/brokers',
offsetReset ='latest',
topic ='flink1',
parallelism ='1'
);
CREATE TABLE sideMysqlTable(
id int,
cname varchar,
PRIMARY KEY(id),
PERIOD FOR SYSTEM_TIME
)WITH(
type='mysql',
url='jdbc:mysql://192.168.181.15:3306/hive?charset=utf8',
userName='root',
password='6666526',
tableName='side_order',
cache ='LRU',
cacheSize ='10000',
cacheTTLMs ='60000',
parallelism ='1',
partitionedJoin='false'
);
CREATE TABLE sinkMysqlTable(
id int,
name varchar,
cname varchar
)WITH(
type ='mysql',
url ='jdbc:mysql://192.168.181.15:3306/hive?charset=utf8',
userName ='root',
password ='6666526',
tableName ='result_order',
parallelism ='1'
);
insert into sinkMysqlTable
select
d.id,
d.name,
d.cname
from
(select
a.id,a.name,b.cname
from
sourceKafkaTable a
join
sideMysqlTable b
on a.id=b.id) as d
================================================================
### 提交的命令如下:
sh submit.sh -sql /home/flinksql.txt -name flinkstream -remoteSqlPluginPath /home/FlinkStreamSQL-1.8.0-new/plugins -localSqlPluginPath /home/FlinkStreamSQL-1.8.0-new/plugins -mode yarn -yarnconf /home/hadoop-2.6.0/etc/hadoop -flinkconf /home/flink-1.8.0/conf -confProp {"time.characteristic":"EventTime","sql.checkpoint.interval":10000} -yarnSessionConf {"yid":"application_1582170401251_0003"}
================================================================
### 报如下错误:

- Langage dominant
- Java
- Étoiles
- 2k
- Forks
- 913
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de DTStack/flinkStreamSQL
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 20/100
DTStack/flinkStreamSQL#467 · 1 commentaire ·
-
这个如何引入使用flink-connector-hive啊 Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 25/100
DTStack/flinkStreamSQL#437 · 3 commentaires ·
-
Difficulté 3/5 1-2 jours Accessibilité débutants 38/100
DTStack/flinkStreamSQL#432 · 1 commentaire ·
-
新版FlinkStreamSQL已经融合进FlinkX项目 Ouverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 15/100
DTStack/flinkStreamSQL#431 ·
-
有无对sql 语法校验的方法 Ouverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 15/100
DTStack/flinkStreamSQL#430 · 1 commentaire ·
Toutes les issues de DTStack/flinkStreamSQL
Issues similaires
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
elastic/gradle-plugins#157 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
cryptomator/hub#497 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
johanhaleby/occurrent#1120 ·