Can RotorQuant/TurboQuant and dflash support be added?

Aberta
#2,184 0 comentários 0 reações 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
4/5
Tempo estimado
3-5 dias
Facilidade para iniciantes
35/100
Tipo de issue
Funcionalidade
Clareza
Razoavelmente clara
Status de atividade
Pouca atividade
Stack de tecnologia
c, python

Direção de pesquisa

A issue solicita adicionar suporte a TurboQuant/RotorQuant e dFlash speculative decoding aos bindings do llama-cpp-python. Comece examinando o código de bindings existente no repositório para entender como os recursos de quantização e speculative decoding estão atualmente integrados. Verifique o projeto upstream llama.cpp em busca de implementações ou discussões existentes sobre esses recursos. Determine quais alterações são necessárias nos bindings C++ e na interface Python e verifique o processo de build para garantir a compatibilidade.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Hi!
This project is very useful for using with llama.cpp in python. However, it would be great if we could have some features even before the main llama.cpp has full support for them. By that I mean TurboQuant/RotorQuant and dFlash speculative decoding. It would make this entire library AMAZING to use.

Linguagem predominante
Python
Estrelas
10.7k
Forks
1.5k
Merge médio
1h 40min
PRs com merge (30d)
5

Preparar o ambiente

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de abetlen/llama-cpp-python

Todas as issues de abetlen/llama-cpp-python

Issues semelhantes

Mais issues de Python

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.