Support for MiniCPM-V 4.5

Aberta
#2,075 1 comentário 1 reação 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
3/5
Tempo estimado
1-2 dias
Facilidade para iniciantes
45/100
Tipo de issue
Funcionalidade
Clareza
Claramente especificada
Status de atividade
Estagnada
Stack de tecnologia
python

Direção de pesquisa

Verifique o MiniCPMv26ChatHandler existente no codebase para entender o padrão para adicionar um novo model handler. Consulte o pull request #15575 do llama.cpp para ver as alterações necessárias para o suporte ao MiniCPM-V 4.5. Teste a integração fazendo o build com o llama.cpp atualizado e verificando se o novo modelo funciona com os Python bindings.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Is your feature request related to a problem? Please describe.
Currently your documentation lists minicpm-v-2.6 with MiniCPMv26ChatHandler.
Since MiniCPM-V 4.5 is out - could you please supprt it?

Describe the solution you'd like
MiniCPM-V 4.5 is supported in llama-cpp-python

Describe alternatives you've considered
N/A

Additional context
llama.cpp already supports it Add any other context or screenshots about the feature request here.

Linguagem predominante
Python
Estrelas
10.7k
Forks
1.5k
Merge médio
1h 40min
PRs com merge (30d)
5

Preparar o ambiente

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de abetlen/llama-cpp-python

Todas as issues de abetlen/llama-cpp-python

Issues semelhantes

Mais issues de Python

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.