Hacktoberfest 2026 : les issues que les mainteneurs ont marquées pour octobre, ouvertes et accessibles aux débutants. Parcourir les issues Hacktoberfest

Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently drops

Ouverte Adaptée aux débutants
  • Quelque chose ne va pas ?
#2,371 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

@Belal0066 y travaille déjà.

Depuis le 22/9/2026.

  • #2372 par @Belal0066 — ouverte

Évaluation

Difficulté
2/5
Temps estimé
1-3 heures
Accessibilité débutants
88/100
Type d'issue
Bug
Clarté
Clairement spécifiée
Activité
Active
Stack technique
python
Domaine
api

Piste de recherche

Commencez dans llama_cpp/llama_cpp.py, au niveau des sept définitions de llama_sampler_init_* autour des lignes 4553-4606, puis lisez ctypes_function dans llama_cpp/_ctypes_extensions.py:146-152 pour confirmer comment les fonctions exportées sont créées. Rendez les sept paramètres de binding positional-only, comme dans les définitions environnantes, et vérifiez que leurs signatures n’incitent plus à utiliser des appels avec des arguments nommés.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Summary

In llama_cpp/llama_cpp.py, seven bindings are declared as defs whose parameters are NOT
positional-only, while every other decorated binding in the file uses /:

line (main d736646) def
4553 def llama_sampler_init_dist(seed: int) -> llama_sampler_p
4560 def llama_sampler_init_top_k(k: int) -> llama_sampler_p
4570 def llama_sampler_init_top_p(p: float, min_keep: int) -> llama_sampler_p
4580 def llama_sampler_init_min_p(p: float, min_keep: int) -> llama_sampler_p
4590 def llama_sampler_init_typical(p: float, min_keep: int) -> llama_sampler_p
4596 def llama_sampler_init_temp(t: float) -> llama_sampler_p
4606 def llama_sampler_init_temp_ext(t: float, delta: float, exponent: float) -> llama_sampler_p

ctypes_function (llama_cpp/_ctypes_extensions.py:146-152) replaces the def with the
ctypes function object:

def decorator(f):
    if enabled:
        func = getattr(lib, name)
        func.argtypes = argtypes
        func.restype = restype
        functools.wraps(f)(func)
        return func

so the name the module exports IS getattr(lib, "llama_sampler_init_top_k"). A ctypes
function object without paramflags binds no argument by name, but functools.wraps and
the (f: F) -> F typing make inspect.signature, pyright and IDEs show the def's
signature — which invites keyword calls the object cannot honour.

What happens (CPython 3.12.10, ctypes)

>>> import ctypes; lib = ctypes.CDLL(None); f = lib.abs
>>> f.argtypes = [ctypes.c_int]; f.restype = ctypes.c_int
>>> f(-3, x=1)        # an extra keyword is DROPPED silently
3
>>> f(x=-3)           # all-keyword: refused
TypeError: this function takes at least 1 argument (0 given)

Applied to these bindings:

  • llama_sampler_init_top_k(k=40) — type-checks clean, raises TypeError at run time.
  • llama_sampler_init_top_p(0.9, min_keep=2) — type-checks clean, runs, and passes ONE
    positional to a two-parameter C function: min_keep is silently dropped and the C side
    reads whatever the register/stack held for it.

No caller inside the repository is affected today (_internals.py:705-732 and the server
pass positionals), so this is a latent API hazard rather than a current bug — but the
signature is public and the failure is invisible to every static check.

Fix

Make the seven defs positional-only, as the other bindings already are:

def llama_sampler_init_top_k(k: int, /) -> llama_sampler_p: ...

(Alternatively, build the functions through a CFUNCTYPE prototype with paramflags,
which does bind by name — but the one-character fix matches the file's convention.)

Found with SemLinker, a cross-language contract checker we are developing; happy to send a PR.

Langage dominant
Python
Étoiles
10.6k
Forks
1.5k
Merge moyen
3 h 57 min
PR mergées (30 j)
4

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de abetlen/llama-cpp-python

Toutes les issues de abetlen/llama-cpp-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.