Text appears and disappears when POD is launched with models larger than 10B

オープン

#118 2024年5月8日に作成コメント 0 件リアクション 0 件担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

ソースファイル、テスト、エントリポイントは特定されていません。まず10Bを超えるモデルで動作を再現し、添付されたTriton podのエラーを調査してください。次に、生成されたテキストが消える理由を特定し、修正後も出力が表示されたままであることを確認してください。

索引モデルが issue の本文から書いたものです。

hello.

As the title says, when I use a model over 10B and reference it, the text comes up and then disappears.

I would appreciate your opinion on what could be the cause and how to fix it.

Thank you.

I'm also attaching the triton pod related error.

Received stop request for requestId 7796140 but it's not active (might be completed already).

Incorrect audit job payload for nemo-microservices/auditor:25.09 オープン

難易度 1/5 1時間未満初心者へのやさしさ 70/100

NVIDIA/GenerativeAIExamples#361 · コメント 2 件 · 2025年10月7日に作成
Support Excel File Upload in Data Analysis Agent オープン

難易度 2/5 1〜3時間初心者へのやさしさ 72/100

NVIDIA/GenerativeAIExamples#299 · 2025年6月4日に作成
Resource: curated awesome-list for NVIDIA NIM integrations オープン

難易度 3/5 1〜2日初心者へのやさしさ 35/100

NVIDIA/GenerativeAIExamples#437 · 2026年6月11日に作成
hyperlink not working オープン

難易度 1/5 1時間未満初心者へのやさしさ 45/100

NVIDIA/GenerativeAIExamples#400 · 2025年11月19日に作成
payload = { "name": "getting-started-job", "project": "demo", "spec": { "config": f"default/{config_name}", "target": f"default/{target_name}", } } オープン

難易度 5/5 1週間以上初心者へのやさしさ 10/100

NVIDIA/GenerativeAIExamples#399 · 2025年11月17日に作成

[Bug]: PrevNextNodePostprocessor loses retrieved scores when neighbor windows overlap オープン

難易度 2/5 1〜3時間初心者へのやさしさ 76/100

run-llama/llama_index#23199 · 2026年9月23日に作成
`OpenAIChatModel` streaming keeps only the last chunk's `logprobs` オープン

p:2-high pydanty:bug

難易度 2/5 1〜3時間初心者へのやさしさ 90/100

pydantic/pydantic-ai#8642 · コメント 2 件 · 2026年9月22日に作成
[BUG] Unified agent on Bedrock Converse with no tools is unusable: an empty `toolConfig` is emitted and Bedrock rejects the request オープン

bug untriaged

難易度 2/5 1〜3時間初心者へのやさしさ 84/100

opensearch-project/ml-commons#5094 · 2026年9月22日に作成
[langchain-groq] bind_tools ignores a known tool_calling=False model profile and sends a request that Groq rejects オープン

bug external groq

難易度 2/5 1〜3時間初心者へのやさしさ 82/100

langchain-ai/langchain#40771 · コメント 1 件 · 2026年9月22日に作成
bug report: ai observability - dry-running a paused evaluation emails the whole org オープン

ai-observability bug team/ai-observability

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

PostHog/posthog#104687 · 2026年9月22日に作成