reworkd/AgentGPT

🤖 Investigate utilizing local models

Open

#19 aberto em 11 de abr. de 2023

Ver no GitHub
 (3 comments) (0 reactions) (0 assignees)TypeScript (9.446 forks)batch import
help wanted

Métricas do repositório

Stars
 (34.594 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

This is a big undertaking. As a user, I'd like to be able to use my own local models to not be crippled by limitations of OpenAI models. The opensource model scene is getting huge and we want to support this as best as possible. The issue is, given we are a product first and foremost, connection to local models must work in both prod and dev and must be as simple as possible to setup.

One option is WindowAI: https://twitter.com/xanderatallah/status/1643356106670981122. This is an extension that will allow a site to connect to a model locally.

Before implementing anything, we should first investigate possibilities and report back in this issue.

Guia do colaborador

Direção de pesquisa
Investigue opções para integrar modelos de IA locais, como o WindowAI. Avalie a viabilidade tanto para desenvolvimento quanto para produção. Relate as descobertas nesta issue.
Pilha de tecnologia
typescript
Domain
backendai
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Precisa de investigação
Prerequisites
Git
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40