ggml-org/llama.cpp

Eval bug: wrong default threads in llama-bench

Open

#17 611 ouverte le 30 nov. 2025

Voir sur GitHub
 (8 commentaires) (0 réactions) (0 assignés)C++ (18 202 forks)batch import
good first issuelow severityperformance

Métriques du dépôt

Stars
 (110 169 stars)
Métriques de merge PR
 (Merge moyen 5j 11h) (457 PRs mergées en 30 j)

Description

Name and Version

latest commit: https://github.com/ggml-org/llama.cpp/commit/fa0465954faef9d7170b967ad89f8bc5303a32f3

llama-bench using by default wrong threads.

Linux server with NUMA nodes

Operating systems

Linux

GGML backends

CPU

Hardware

Supermicro X10dri Dual CPU

Guide contributeur

Direction de recherche
Examinez la logique de sélection du nombre par défaut de threads dans llama bench, en vous concentrant sur la facon dont elle detecte la topologie du CPU et gere les systemes NUMA.
Stack technique
cpp
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
C++threading concepts
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70