Frontend app works ok with Port forwarded localhost endpoint but fails with an ingress endpoint
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 35/100
- Type d'issue
- Bug
- Clarté
- Plutôt claire
- Activité
- À l'abandon
- Stack technique
- kubernetes, nginx
- Domaine
- frontend, infrastructure
Piste de recherche
Commencez par cr8-rag-chatbot-ingress.yaml et comparez les chemins des requêtes ingress avec les logs obtenus via le port forwarding. Suivez la manière dont le frontend construit l’URL POST pour /queue/join et vérifiez que le endpoint ingress conserve le préfixe /content/converse ; c’est terminé lorsque la soumission d’un prompt via ingress réussit comme via le port forwarding.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
I am able to access the chatbot front end using port forwarded local host ep.
Now I want to expose this endpoint using Ingress. I have added an ingress to expose the chatbot’s front end using the below manifest
e125830@W76CYQCV44 nim-operator % cat cr8-rag-chatbot-ingress.yaml
apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
name: rag-chatbot-ep
namespace: rag-sample
spec:
ingressClassName: nginx
rules:
- host: rag-chatbot-ep.k8s-performance.stage.stl.k8s.int
http:
paths:- backend:
service:
name: rag-playground-multiturn-rag
port:
number: 3001
path: /
pathType: Prefix
tls:
- backend:
- hosts:
- rag-chatbot-ep.k8s-performance.stage.stl.k8s.int
I am able to get to the chatbot front end using the new ingress ep https://rag-chatbot-ep.k8s-performance.stage.stl.k8s.int/converse, but when I submit a prompt I get error
Below are the logs and my analysis…
Below are the logs when Chatbot is accessed via nginx ingress ep
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /converse HTTP/1.1" 200
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /content/converse/?__theme=light HTTP/1.1" 200
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /assets/index-CKyT5UbA.css HTTP/1.1" 404
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /theme.css?v=a2458843f5ddb2d155d001fdae495187847b01c05a840ddb350be829a269d776 HTTP/1.1" 404
[1] Nov 01 17:18:22 [ INFO] - uvicorn.access - 10.42.171.194:36704 - "POST /queue/join?__theme=light HTTP/1.1" 405
Below are the logs when Chatbot is accessed via port forwarded local host ep
[1] Nov 01 17:08:29 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /converse HTTP/1.1" 200
[1] Nov 01 17:08:29 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /content/converse/?__theme=light HTTP/1.1" 200
[1] Nov 01 17:08:30 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /assets/index-CKyT5UbA.css HTTP/1.1" 404
[1] Nov 01 17:08:30 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /content/converse/theme.css?v=a2458843f5ddb2d155d001fdae495187847b01c05a840ddb350be829a269d776 HTTP/1.1" 200
[1] Nov 01 17:20:12 [ INFO] - uvicorn.access - 127.0.0.1:52396 - "POST /content/converse/queue/join?__theme=light HTTP/1.1" 200
[1] Nov 01 17:20:12 [ INFO] - frontend.pages.converse - processing inference request - {'prompt': 'Testing', 'use_knowledge_base': False}
[1] Nov 01 17:20:12 [ INFO] - uvicorn.access - 127.0.0.1:52396 - "GET /content/converse/queue/data?session_hash=rdgwzvtp9w8 HTTP/1.1" 200
Main issue is the POST call is missing /content/converse in the ingress ep case
Looks like the the URL posted by the Client itself does not have them for ingress case…
Can one of you please check this and let us know what might be causing this difference in the POST URL’s when using the above endpoints…
- Langage dominant
- Jupyter Notebook
- Étoiles
- 4.2k
- Forks
- 1.1k
- Merge moyen
- 10 h 15 min
- PR mergées (30 j)
- 1
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Aucun modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de NVIDIA/GenerativeAIExamples
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 70/100
NVIDIA/GenerativeAIExamples#361 · 2 commentaires ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
NVIDIA/GenerativeAIExamples#299 ·
-
Difficulté 3/5 1-2 jours Accessibilité débutants 35/100
NVIDIA/GenerativeAIExamples#437 ·
-
hyperlink not workingOuverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 45/100
NVIDIA/GenerativeAIExamples#400 ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 10/100
NVIDIA/GenerativeAIExamples#399 ·
Toutes les issues de NVIDIA/GenerativeAIExamples
Issues similaires
-
Difficulté 2/5 1-3 heures Accessibilité débutants 85/100
solidjs/solid-router#652 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
shadps4-emu/shadps4-qtlauncher#453 ·
Les mainteneurs répondent en général sous 2 jours
-
[BUG] Reports tab: "Unban" button tooltip shows raw `{{ip}}` placeholder instead of the IP addressOuvertebug javascript ui
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
bunkerity/bunkerweb#4001 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
bug
Difficulté 1/5 Moins d'une heure Accessibilité débutants 92/100
PedestrianDynamics/pyFDS-Evac#476 ·
Les mainteneurs répondent en général sous 1 jour