microsoft/batch-inference

GitHub で見る

Dynamic batching library for Deep Learning inference. Tutorials for LLM, GPT scenarios.

スター: 106
フォーク: 6
オープンの初心者向け issue: 0
索引済み issue: 1
平均マージ: 12時間 12分
マージ済み PR（30日）: 1

主要言語: Python
ライセンス: MIT
最終 GitHub push: 2026年8月24日
最新の索引: 2026年9月19日
コントリビューションガイド: コントリビューションガイドがありません
行動規範: 行動規範
初心者向けラベル: 初心者向けラベルは索引されていません

初心者向けすべて

オープンすべて

オープンの issue を 1 件索引しました

Will this library have a C++ version? オープン

難易度 5/5 1週間以上初心者へのやさしさ 15/100

microsoft/batch-inference#14 · 2024年8月10日に作成

初心者向けの GitHub issue を短くまとめたダイジェスト。