neulab/prompt2model

tiktoken usage

Open

#341 aberto em 8 de set. de 2023

Ver no GitHub
 (2 comments) (0 reactions) (0 assignees)Python (137 forks)batch import
good first issue

Métricas do repositório

Stars
 (1.663 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

https://github.com/neulab/prompt2model/pull/335#issuecomment-1711578817

Another thing is that I am not sure that all the API-based models use tiktoken to compute input tokens. Thus, the num of input tokens may slightly differ between these models. But that's minimal.

Guia do colaborador

Direção de pesquisa
Investigue como o tiktoken é usado no codebase para calcular tokens de entrada para modelos baseados em API e determine se há inconsistências entre diferentes provedores de modelos.
Pilha de tecnologia
python
Domain
api
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Menos de 1 hora
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
python
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
50