Incorrect output limit for ollama-cloud/deepseek-v4-pro: advertised 1048576, server enforces 65536

Aperta Adatta ai principianti
  • Qualcosa non va?
#12,589 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

@Develbold ci sta già lavorando.

Dal 5/11/2026.

  • #12705 di @Develbold — aperta

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
76/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
typescript
Ambito
data

Direzione di ricerca

Trova le voci del registro per ollama-cloud/deepseek-v4-pro e ollama-cloud/deepseek-v4-pro:0813, poi leggi come vengono rappresentati i limiti dei modelli del provider. Imposta ogni limite di output sui 65.536 token imposti dal server e verifica che le due voci siano coerenti. Il lavoro è terminato quando entrambe indicano il limite supportato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Summary

The ollama-cloud provider entries for deepseek-v4-pro and deepseek-v4-pro:0813 advertise limit.output: 1048576. The actual API at https://ollama.com/v1 rejects any request with max_tokens > 65536 for these models. Clients that derive max_tokens from the registry data (e.g. OpenCode) get a hard HTTP 400 on every request to these models.

Notably, the canonical model page for DeepSeek V4 Pro 0813 correctly lists 384,000 output — so the wrong value is specifically the ollama-cloud provider override.

Current vs. enforced (verified 2026-11-04)

Model Registry says (output) Server accepts
ollama-cloud/deepseek-v4-pro 1048576 max 65536
ollama-cloud/deepseek-v4-pro:0813 1048576 max 65536
ollama-cloud/deepseek-v4.1-flash 384000 ≥256000 ✅
ollama-cloud/deepseek-v4.1-flash:1017 384000 ≥256000 ✅

Boundary verified exactly: max_tokens: 65536 succeeds on both v4-pro models; max_tokens: 65537 is rejected with the error below. For cross-reference, other providers in the registry list deepseek-v4-pro output at 384000–393216 (opper and sensenova list 65536).

Reproduction

curl -sS https://ollama.com/v1/chat/completions \
  -H "Authorization: Bearer $OLLAMA_API_KEY" -H "Content-Type: application/json" \
  -d '{"model":"deepseek-v4-pro","max_tokens":256000,"messages":[{"role":"user","content":"Say OK"}]}'

Response (HTTP 400):

{"error": {"message": "max_tokens (256000) exceeds model's maximum output tokens (65536) for model deepseek-v4-pro (ref: ff7665c4-6c45-452f-a1f8-6ab00e253760)",
           "type": "invalid_request_error"}}

With max_tokens: 65536 the same request succeeds.

Impact

OpenCode sends max_tokens derived from the registry value for these models, so every session using ollama-cloud/deepseek-v4-pro fails before generating any tokens (AI.Error.InvalidRequest: max_tokens (256000) exceeds model's maximum output tokens (65536)). Confirmed 2026-11-04 across multiple sessions against the live API.

Suggested fix

Set limit.output to 65536 for both ollama-cloud/deepseek-v4-pro and ollama-cloud/deepseek-v4-pro:0813 — or, if the enforced cap is confirmed to be raised on Ollama's side, to the newly supported value.

Lingua principale
TypeScript
Stelle
7.5k
Fork
2k
Merge medio
17m
PR unite (30g)
911

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di anomalyco/models.dev

Tutte le issue di anomalyco/models.dev

Issue simili

Altre issue su TypeScript

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.