Text appears and disappears when POD is launched with models larger than 10B

Aperta

#118 aperta il 8/5/2024 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà: 4/5
Tempo stimato: 3-5 giorni
Idoneità per principianti: 20/100

Tipo di issue: Bug
Chiarezza: Da chiarire
Stato di attività: Ferma
Ambito: ai, backend

Direzione di ricerca

Non sono identificati file sorgente, test o punto di ingresso. Inizia riproducendo il comportamento con un modello superiore a 10B e ispezionando l’errore del pod Triton allegato; quindi determina perché il testo generato scompare e verifica che l’output rimanga visibile dopo la correzione.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

hello.

As the title says, when I use a model over 10B and reference it, the text comes up and then disappears.

I would appreciate your opinion on what could be the cause and how to fix it.

Thank you.

I'm also attaching the triton pod related error.

Received stop request for requestId 7796140 but it's not active (might be completed already).

Lingua principale: Jupyter Notebook
Stelle: 4.2k
Fork: 1.1k
Merge medio: 10h 15m
PR unite (30g): 1

Guida per i contributori

Apri la guida per i contributori

Come iniziare

Leggi tutta la issue e poi la guida ai contributi del progetto.
Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
Fai un fork del repository e lavora su un branch.
Apri una pull request che faccia riferimento al numero della issue.

Altre issue di NVIDIA/GenerativeAIExamples

Incorrect audit job payload for nemo-microservices/auditor:25.09 Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 70/100

NVIDIA/GenerativeAIExamples#361 · 2 commenti · Aperta il 7/10/2025
Support Excel File Upload in Data Analysis Agent Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100

NVIDIA/GenerativeAIExamples#299 · Aperta il 4/6/2025
Resource: curated awesome-list for NVIDIA NIM integrations Aperta

Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100

NVIDIA/GenerativeAIExamples#437 · Aperta il 11/6/2026
hyperlink not working Aperta

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 45/100

NVIDIA/GenerativeAIExamples#400 · Aperta il 19/11/2025
payload = { "name": "getting-started-job", "project": "demo", "spec": { "config": f"default/{config_name}", "target": f"default/{target_name}", } } Aperta

Difficoltà 5/5 Più di una settimana Idoneità per principianti 10/100

NVIDIA/GenerativeAIExamples#399 · Aperta il 17/11/2025

Tutte le issue di NVIDIA/GenerativeAIExamples

Issue simili

plugins: post-install hint for a memory-provider plugin says `hermes plugins enable`, which does not activate it (memory.provider stays empty) Aperta

area/config comp/cli comp/plugins P3 Plugin Catalog sweeper:risk-compatibility tool/memory type/bug

Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100

NousResearch/hermes-agent#119909 · 1 commento · Aperta il 23/9/2026
[Bug] gaussian_actor: use_tanh_squash is documented and stored but never read (tanh squashing cannot be disabled) Aperta

bug configuration documentation examples policies processor tests training

Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100

huggingface/lerobot#4727 · Aperta il 23/9/2026
📱 AI 日报 · 2026-09-23 Aperta

ai-content daily-post

Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100

happydog-intj/ai-xiaohongshu-daily#499 · Aperta il 23/9/2026
[Bug]: PrevNextNodePostprocessor loses retrieved scores when neighbor windows overlap Aperta

Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100

run-llama/llama_index#23199 · Aperta il 23/9/2026
`OpenAIChatModel` streaming keeps only the last chunk's `logprobs` Aperta

p:2-high pydanty:bug

Difficoltà 2/5 1-3 ore Idoneità per principianti 90/100

pydantic/pydantic-ai#8642 · 2 commenti · Aperta il 22/9/2026

Altre issue su AI Infra & Agents