Separate real-time and batch priority requests to analyze packages

オープン
#373 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 6 日以内に返信

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
30/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
go

調査の方向性

この issue では共有の PubSub キューと分析ワーカーが挙げられていますが、ファイルやテストは示されていません。まずキューの消費処理とワーカーのエントリポイントを見つけ、次にバッチメッセージとリアルタイムメッセージがどのように識別されているかを確認してください。優先順位付けまたは別々のワーカーによって、バッチ分析がリアルタイム処理をブロックしなくなれば完了です。

索引モデルが issue の本文から書いたものです。

説明

I started a backfill of 95k packages from crates.io.

These enter as messages in the same PubSub queue as the live "real-time" messages for packages being updated.

Unfortunately this causes the "real-time" requests to be delayed, potentially missing detections for packages that are only live for a short time on a package repository.

Ideally there should be a way to priotize "batch" messages from "real-time" messages, so the real-time messages can be processed first (or at a higher rate).

Alternatively separate "batch" analysis workers could be spun-up when batch work is present.

Either way it would be good if batch work didn't block real-time work.

主要言語
Go
スター
925
フォーク
75
平均マージ
4日 2時間
マージ済み PR(30日)
3

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

ossf/package-analysis のほかの issue

ossf/package-analysis の issue をすべて見る

似ている issue

Go の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。