[Feature] Add LLMTR as a model provider

Đang mở
  • Có gì không ổn?
#212 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

@knowhycodata đang làm issue này rồi.

Từ ngày 29/10/2026.

  • #213 của @knowhycodata — đang mở

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
25/100
Loại issue
Tính năng
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
typescript
Lĩnh vực
ai, api, backend

Hướng nghiên cứu

The issue describes provider configuration, model routing, chat completion requests, and fixture tests, but names no source files or test paths. Start by tracing how OpenAI, Anthropic, and Google providers are configured and how the OpenAI-compatible gateway path from #80 is handled. Done means LLMTR model chat and delegated tasks work with the specified key, base URL, model ID, and request behavior; the author says a PR is ready, so check for that work before starting.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

What outcome should OpenMuse handle?

Let OpenMuse use LLMTR (https://llmtr.com), an OpenAI-compatible gateway, for delegated work and model chat, selected the same way OpenAI, Anthropic and Google are today.

Disclosure: I maintain LLMTR.

Proposed behavior
  • AGENT_BACKEND=model, MODEL=llmtr/<catalog id>, and a server-only LLMTR_API_KEY.
  • Base URL defaults to https://llmtr.com/v1; LLMTR_BASE_URL overrides it.
  • Catalog ids look like qwen/qwen3.8-27b-free, so the setting is MODEL=llmtr/qwen/qwen3.8-27b-free. Hosted ids that already start with llmtr/ keep that prefix: MODEL=llmtr/qwen3-8-27b calls model llmtr/qwen3-8-27b.
  • Calls go to /v1/chat/completions with Authorization: Bearer, following the OpenAI-compatible gateway path from #80. No reasoning field is sent. Responses-only and embedding models are not routed.
How would we verify it works?
  • GET https://llmtr.com/v1/models lists the catalog without a key; chat needs an llmtr- key (a free model is available).
  • With MODEL=llmtr/qwen/qwen3.8-27b-free, create a task via POST /api/agent/tasks and check it completes, including a tool call.
  • Fixture tests check the request path, bearer token, model id, and that reasoning is absent.

I have a small server-only PR ready with tests and will link it here.

Ngôn ngữ chính
TypeScript
Star
6k
Fork
864
Merge trung bình
4 ngày 1 giờ
Pull request đã merge (30 ngày)
33

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của CopilotKit/openmuse

Tất cả issue của CopilotKit/openmuse

Issue tương tự

Thêm issue về TypeScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.