abetlen/llama-cpp-python

suppress_stdout_stderr failing in notebooks

Fechada

#872 aberto em 5 de nov. de 2023

Ver no GitHubGuia do colaborador
 (3 comentários) (0 reação) (0 responsável)Python (1.441 forks)batch import
bughelp wanted

Métricas do repositório

Stars
 (10.557 estrelas)
Métricas de merge de PR
 (Mesclagem média 1d 5h) (68 fundiu PRs em 30d)

Description

Expected Behavior

Loading a model with verbose=False should not print things.

Current Behavior

verbose=False has no effect in notebooks (I tested with VS Code notebooks, but I think it is ipykernel related)

Steps to Reproduce

Just load a model with verbose=False and observe output in a notebook environment.

How to fix

The patch given in the ipykernel issue below fixes the issue for me (but requires me to do my own override of stdout and stderr since the patch also causes suppress_stdout_stderr to crash as currently written). A real fix might involve integrating this into suppress_stdout_stderr directly.

https://github.com/ipython/ipykernel/issues/795

thanks!

Guia do colaborador

Direção de pesquisa
The issue is about `suppress stdout stderr` not working in notebook environments. The fix likely involves modifying the `suppress stdout stderr` function in the codebase, referencing the ipykernel issue (https://github.com/ipython/ipykernel/issues/795) for a patch. The function may live in a utility module; check the repository's source tree for relevant files. Integrate the patch to handle stdout/stderr redirection properly for ipykernel.
Pilha de tecnologia
python
Domain
backend
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
understanding of Python's io modulebasic knowledge of ipykernel
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60