Frontend app works ok with Port forwarded localhost endpoint but fails with an ingress endpoint
還沒有人認領這個 Issue。
評估
- 難度
- 3/5
- 預估耗時
- 1-2 天
- 新手友好度
- 35/100
- Issue 類型
- 缺陷
- 描述清晰度
- 基本清楚
- 活躍度
- 停滯
- 技術堆疊
- kubernetes, nginx
研究方向
從 cr8-rag-chatbot-ingress.yaml 開始,將 ingress 請求路徑與透過 port forwarding 取得的日誌進行比較。追蹤 frontend 如何建構 /queue/join 的 POST URL,並驗證 ingress endpoint 保留 /content/converse 前綴;當透過 ingress 提交 prompt 能像透過 port forwarding 一樣成功時,即表示完成。
由索引模型根據 Issue 內容生成。
描述
I am able to access the chatbot front end using port forwarded local host ep.
Now I want to expose this endpoint using Ingress. I have added an ingress to expose the chatbot’s front end using the below manifest
e125830@W76CYQCV44 nim-operator % cat cr8-rag-chatbot-ingress.yaml
apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
name: rag-chatbot-ep
namespace: rag-sample
spec:
ingressClassName: nginx
rules:
- host: rag-chatbot-ep.k8s-performance.stage.stl.k8s.int
http:
paths:- backend:
service:
name: rag-playground-multiturn-rag
port:
number: 3001
path: /
pathType: Prefix
tls:
- backend:
- hosts:
- rag-chatbot-ep.k8s-performance.stage.stl.k8s.int
I am able to get to the chatbot front end using the new ingress ep https://rag-chatbot-ep.k8s-performance.stage.stl.k8s.int/converse, but when I submit a prompt I get error
Below are the logs and my analysis…
Below are the logs when Chatbot is accessed via nginx ingress ep
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /converse HTTP/1.1" 200
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /content/converse/?__theme=light HTTP/1.1" 200
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /assets/index-CKyT5UbA.css HTTP/1.1" 404
[1] Nov 01 17:08:10 [ INFO] - uvicorn.access - 10.42.69.131:37658 - "GET /theme.css?v=a2458843f5ddb2d155d001fdae495187847b01c05a840ddb350be829a269d776 HTTP/1.1" 404
[1] Nov 01 17:18:22 [ INFO] - uvicorn.access - 10.42.171.194:36704 - "POST /queue/join?__theme=light HTTP/1.1" 405
Below are the logs when Chatbot is accessed via port forwarded local host ep
[1] Nov 01 17:08:29 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /converse HTTP/1.1" 200
[1] Nov 01 17:08:29 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /content/converse/?__theme=light HTTP/1.1" 200
[1] Nov 01 17:08:30 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /assets/index-CKyT5UbA.css HTTP/1.1" 404
[1] Nov 01 17:08:30 [ INFO] - uvicorn.access - 127.0.0.1:57842 - "GET /content/converse/theme.css?v=a2458843f5ddb2d155d001fdae495187847b01c05a840ddb350be829a269d776 HTTP/1.1" 200
[1] Nov 01 17:20:12 [ INFO] - uvicorn.access - 127.0.0.1:52396 - "POST /content/converse/queue/join?__theme=light HTTP/1.1" 200
[1] Nov 01 17:20:12 [ INFO] - frontend.pages.converse - processing inference request - {'prompt': 'Testing', 'use_knowledge_base': False}
[1] Nov 01 17:20:12 [ INFO] - uvicorn.access - 127.0.0.1:52396 - "GET /content/converse/queue/data?session_hash=rdgwzvtp9w8 HTTP/1.1" 200
Main issue is the POST call is missing /content/converse in the ingress ep case
Looks like the the URL posted by the Client itself does not have them for ingress case…
Can one of you please check this and let us know what might be causing this difference in the POST URL’s when using the above endpoints…
- 主要語言
- Jupyter Notebook
- 星號
- 4.2k
- 分支
- 1.1k
- PR 合併指標
- 30 天內沒有已合併 PR
環境準備
- 沒有 Dockerfile 或 Docker Compose 檔案
- 沒有 Pull Request 範本
- 閱讀貢獻指南
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
NVIDIA/GenerativeAIExamples 的其他 Issue
-
Incorrect audit job payload for nemo-microservices/auditor:25.09可能已有人在做 @saichandrapandraju 於 370 天前認領。 未關閉
難度 1/5 1 小時以內 新手友好度 70/100
NVIDIA/GenerativeAIExamples#361 · 2 則留言 ·
-
難度 2/5 1-3 小時 新手友好度 72/100
NVIDIA/GenerativeAIExamples#299 ·
-
難度 3/5 1-2 天 新手友好度 35/100
NVIDIA/GenerativeAIExamples#437 ·
-
hyperlink not working可能已有人在做 @maowiz 於 79 天前認領。 未關閉
難度 1/5 1 小時以內 新手友好度 45/100
NVIDIA/GenerativeAIExamples#400 ·
-
難度 5/5 一週以上 新手友好度 10/100
NVIDIA/GenerativeAIExamples#399 ·
查看 NVIDIA/GenerativeAIExamples 的全部 Issue
相似的 Issue
-
area/frontend good first issue kind/cooldown
難度 2/5 1-3 小時 新手友好度 78/100
kestra-io/kestra#20704 · 1 則留言 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 68/100
bitcoin-core/gui-qml#1003 ·
維護者通常 3 天內回覆
-
難度 2/5 1-3 小時 新手友好度 68/100
schmayterling/hibi#198 ·
維護者通常 1 天內回覆
-
bug
難度 2/5 1-3 小時 新手友好度 64/100
eclipse-platform/eclipse.platform.ui#4476 · 5 則留言 ·
維護者通常 1 天內回覆
-
budget bug feature frontend good-issue medium needs-review OSCI'26 payments
難度 2/5 1-3 小時 新手友好度 75/100
SatyamPandey-07/WorkSphere#5990 · 1 則留言 ·
維護者通常 1 天內回覆