Optimizing data upload transfer size

オープン
  • 何か問題がありますか？
#93 コメント 3 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
25/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
python
領域
data, performance

調査の方向性

データをCASにアップロードする前にCSVへ変換する upload_frame パスから始めます。バイナリ転送または圧縮転送がサポートされているかを調査し、その後、すべて数値で構成された大規模なテーブルのアップロードを測定します。完了とは、アップロードの動作を壊さずに転送サイズを削減する、文書化または実装されたアプローチが得られていることを意味します。

索引モデルが issue の本文から書いたものです。

説明

Hi, in my project I usually upload from local very large tables with the following characteristic: all columns are numeric (double).

I saw that with upload_frame data is first converted to csv and then the csv is uploaded on CAS.

I was thinking about the fact that in the "plain" csv every character takes 1 byte, so for instance the number 123456.123456 uses 13 bytes: but if this number is converted to its float binary representation, it would take 8 bytes: this little "gain" of 5 bytes, repeated for every row and every column may lead to a huge gain in file transfer size for bandwidth and time.

Or perhaps the "plain" csv may be gzipped to greatly reduce the file size since inside there are only a few distinct characters (i.e. the numbers).

Any Idea/hint you can give me to optimize the data upload transfer size in a smart way?

Thank you.

主要言語
Python
スター
159
フォーク
66
30日以内にマージされた PR はありません

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

sassoftware/python-swat のほかの issue

sassoftware/python-swat の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。