abetlen/llama-cpp-python

suppress_stdout_stderr failing in notebooks

Fermée

#872 ouverte le 5 nov. 2023

Voir sur GitHubGuide contributeur
 (3 commentaires) (0 réaction) (0 personne assignée)Python (1 441 forks)batch import
bughelp wanted

Métriques du dépôt

Stars
 (10 557 étoiles)
Métriques de merge PR
 (Merge moyen 1j 5h) (68 PRs mergées en 30 j)

Description

Expected Behavior

Loading a model with verbose=False should not print things.

Current Behavior

verbose=False has no effect in notebooks (I tested with VS Code notebooks, but I think it is ipykernel related)

Steps to Reproduce

Just load a model with verbose=False and observe output in a notebook environment.

How to fix

The patch given in the ipykernel issue below fixes the issue for me (but requires me to do my own override of stdout and stderr since the patch also causes suppress_stdout_stderr to crash as currently written). A real fix might involve integrating this into suppress_stdout_stderr directly.

https://github.com/ipython/ipykernel/issues/795

thanks!

Guide contributeur

Direction de recherche
The issue is about `suppress stdout stderr` not working in notebook environments. The fix likely involves modifying the `suppress stdout stderr` function in the codebase, referencing the ipykernel issue (https://github.com/ipython/ipykernel/issues/795) for a patch. The function may live in a utility module; check the repository's source tree for relevant files. Integrate the patch to handle stdout/stderr redirection properly for ipykernel.
Stack technique
python
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
understanding of Python's io modulebasic knowledge of ipykernel
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60