Pre-built CPU-only wheel for Windows (cp313) for version 0.3.16+ (Gemma 3 support)
Mantenedores costumam responder em até 1 dia
Ninguém assumiu esta issue ainda.
Avaliação
- Dificuldade
- 3/5
- Tempo estimado
- 1-2 dias
- Facilidade para iniciantes
- 45/100
- Tipo de issue
- Funcionalidade
- Clareza
- Claramente especificada
- Status de atividade
- Estagnada
- Domínio
- backend, build-system
Direção de pesquisa
A issue trata do pipeline de CI/CD que compila e lança wheels pré-compilados. Examine os workflows do GitHub Actions (provavelmente em .github/workflows/) que lidam com a compilação de wheels para Windows. O objetivo é garantir que o pipeline produza um wheel CPU-only para Python 3.13 (cp313) na plataforma win_amd64 para a versão 0.3.16+. Verifique o processo de release e a configuração das compilações em matriz para conferir se Python 3.13 está incluído. Um resultado bem-sucedido é o surgimento de um novo wheel nos releases do projeto.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
Hi @abetlen and the contributors,
I am currently working in a strictly restricted corporate environment where I do not have access to C++ build tools (MSVC) or direct internet access to compile packages from source. Because of this, I heavily rely on the pre-built CPU .whl releases provided here.
I am trying to run a Gemma 3 based model (Trendyol Asure 12B), but I'm encountering the unknown model architecture: 'gemma3' error. I noticed that the latest available pre-built Windows CPU wheel for Python 3.13 (cp313) in the releases is version 0.3.2, which does not yet support this architecture.
Would it be possible to trigger the build pipeline and upload a pre-built CPU-only wheel for Windows (win_amd64) for Python 3.13 (cp313) for version 0.3.16?
This would be a lifesaver for users wanting to utilize the new Gemma 3 models and can't build.
Thank you for your time and hard work!
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.5k
- Merge médio
- 3h 57min
- PRs com merge (30d)
- 4
Preparar o ambiente
- Sem Dockerfile nem arquivo Docker Compose
- Sem modelo de pull request
- Ler o guia de contribuição
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsTalvez já em andamento @Belal0066 assumiu há 19 dias. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 88/100
abetlen/llama-cpp-python#2371 ·
Mantenedores costumam responder em até 1 dia
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Talvez já em andamento Um pull request vinculado a esta issue está aberto ou já foi mesclado. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 65/100
abetlen/llama-cpp-python#2352 · 1 comentário · 2 reações ·
Mantenedores costumam responder em até 1 dia
-
Docs: consolidate build-from-source and GPU backend guideTalvez já em andamento Um pull request vinculado a esta issue está aberto ou já foi mesclado. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 75/100
abetlen/llama-cpp-python#2314 ·
Mantenedores costumam responder em até 1 dia
-
Llama.embed() calls LlamaBatch.add_sequence with old 3-arg signature; missing logits_arrayTalvez livre de novo @lxcxjxhx assumiu há 96 dias e não há nenhum pull request aberto. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 65/100
abetlen/llama-cpp-python#2211 · 2 comentários ·
Mantenedores costumam responder em até 1 dia
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyTalvez já em andamento @Anai-Guo assumiu há 36 dias. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 65/100
abetlen/llama-cpp-python#2210 ·
Mantenedores costumam responder em até 1 dia
Todas as issues de abetlen/llama-cpp-python
Issues semelhantes
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 63/100
GAM-team/got-your-back#547 ·
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 75/100
UKGovernmentBEIS/inspect_ai#5821 ·
Mantenedores costumam responder em até 1 dia
-
docs help wanted
Dificuldade 1/5 1-3 horas Facilidade para iniciantes 75/100
-
evidence wanted good first issue help wanted
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
open-coder-ai/agentseam#195 ·
Mantenedores costumam responder em até 1 dia
-
bug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 78/100
Mantenedores costumam responder em até 1 dia