Unable to upload files in Q&A Chatbot's RAG service

Abierto
#119 1 comentario 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
25/100
Tipo de issue
Error
Claridad
Necesita aclaración
Estado de actividad
Estancado
Área
ai, backend-api-design

Línea de trabajo

Comienza reproduciendo la configuración del chatbot de Q&A con GPU local usando el modelo llama-2-7B-chat en la configuración A30 indicada. Después, sigue las instrucciones de la aplicación web de ejemplo para cargar documentos de conocimiento y aísla el fallo utilizando las capturas de pantalla y el comportamiento del servicio. El trabajo estará terminado cuando se haya identificado la causa y documentado una resolución validada.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Hi there,
I'm currently trying to build a Q&A Chatbot using the example here. Since my GPU model is A30 (with two 20GB GPUs), I'm using a smaller-scale model: llama-2-7B-chat. I followed the instructions in the example to set up the service, but I'm having trouble uploading knowledge documents. What can I do here to solve the problem?

image

image

Lenguaje dominante
Jupyter Notebook
Estrellas
4.2k
Forks
1.1k
Merge medio
10 h 15 min
PR fusionados (30 d)
1

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de NVIDIA/GenerativeAIExamples

Todos los issues de NVIDIA/GenerativeAIExamples

Issues similares

Más issues de AI Infra & Agents

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.