ice --watch --force-no-copy creates a table that ClickHouse cannot read
@subkanthi ci sta già lavorando.
Dal 12/2/2026.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Problem Description
It seems to be possible to create an invalid Iceberg table using ice --watch --force-no-copy. Here's the sequence of commands.
Step 1: Set up S3 bucket and SQS queue as described in ice/examples/s3watch.
Step 2: Start ice process. Note: I use slightly different environmental variables from the ice example.
ice insert blog.tripdata_watch -p --force-no-copy --skip-duplicates \
"s3://$CATALOG_BUCKET/WATCH/blog/tripdata_watch/*.parquet" \
--watch="$CATALOG_SQS_QUEUE_URL"
Step 3: Write parquet data to file location from ClickHouse.
INSERT INTO FUNCTION s3('s3://rhodges-ice-rest-catalog-demo/WATCH/blog/tripdata_watch/{_partition_id}.parquet', 'Parquet') PARTITION BY concat('month=', month)
SELECT
*,
toYYYYMM(pickup_date) AS month
FROM tripdata
WHERE month IN (201602, 201603)
Step 4: Select from the table. An error message like the following results.
SELECT
count(),
avg(passenger_count),
avg(trip_distance)
FROM ice.`blog.tripdata_watch`
SETTINGS input_format_parquet_use_native_reader_v3 = 1, object_storage_cluster = 'swarm'
Received exception from server (version 25.8.9):
Code: 499. DB::Exception: Received from localhost:9000. DB::Exception: Received from chi-swarm-example-1-0-0.chi-swarm-example-1-0.antalya.svc.cluster.local:9000. DB::Exception: Failed to get object info: No response body.. HTTP response code: 404: while reading blog/tripdata_watch/month=201603.parquet: While executing ReadFromObjectStorage. (S3_ERROR)
Notes and helpful information.
- Using ice 0.8.1. and Antalya 25.8.9.20207.
- The table exists. You can run
ice scan blog.tripdata_watchandice describe blog.tripdata_watch. - This problem does not occur if you just create a different table using --force-no-copy but without --watch. The following command worked:
ice insert blog.tripdata_nocopy -p --thread-count=12 \
--force-no-copy \
--partition='[{"column":"month"}]' \
"s3://$CATALOG_BUCKET/PARQUET/*.parquet"
- Once this problem happens the table gets into a strange state and cannot recover. I tried to delete the table manually with
ice delete-table --purge, rewrite the data to S3, and create it again with a command like above. Queries failed with the same error.
It's hard to tell if this is just a ClickHouse bug or if ice is somehow also involved. I logged it on the ice project for now.
- Lingua principale
- Java
- Stelle
- 35
- Fork
- 7
- Merge medio
- 5g 5h
- PR unite (30g)
- 4
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Altinity/ice
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
-
Support configurable x-amz-meta-* headers for S3 requestsForse già presa @xieandrew l’ha presa 28 giorni fa. Apertaice-rest-catalog p1
-
Add support for multi-arg transforms in create-tableForse di nuovo libera @subkanthi l’ha presa 42 giorni fa e non c’è nessuna pull request aperta. Aperta
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 50/100
Tutte le issue di Altinity/ice
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
apache/rocketmq-dashboard#6896 ·
I maintainer di solito rispondono entro 3 giorni
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
OpenIntegrationEngine/engine#496 ·
I maintainer di solito rispondono entro 1 giorno
-
enhancement good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
SasanLabs/VulnerableApp#836 ·
I maintainer di solito rispondono entro 1 giorno
-
enhancement frontend
Difficoltà 2/5 1-3 ore Idoneità per principianti 83/100
Albertinesilva/backend-engineering-journey-java-springboot#46 ·
-
Snyk: vulnerabilities in jackson-databind 2.21.5Forse già presa @harrywu23 l’ha presa oggi. Apertabug
Difficoltà 1/5 1-3 ore Idoneità per principianti 80/100
SOFTENG-310-Group-4/Project-A1-310-Group-4#115 ·
I maintainer di solito rispondono entro 1 giorno