Server: `min_p` is read as `int`, so fractional values (e.g. `0.05`) become 0

Đã đóng Phù hợp với người mới
  • Có gì không ổn?
#887 0 bình luận 0 reaction 1 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

@zaneni6 đang làm issue này rồi.

Từ ngày 30/10/2026.

  • #906 của @tawei-amd — đã merge

Đánh giá

Độ khó
1/5
Thời gian dự kiến
Dưới một giờ
Mức phù hợp với người mới
88/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
cpp
Lĩnh vực
api, backend

Hướng nghiên cứu

Trong src/server/rest_handler.cpp, hãy kiểm tra configure_chat_engine_parameters quanh phần xử lý min_p và so sánh với cách phân tích temperature và top_p ở gần đó. Issue nêu thay đổi kiểu dữ liệu dự kiến và lưu ý rằng set_minp nhận một float; hãy xác minh API máy chủ giữ nguyên giá trị như 0.05, sau đó kiểm tra xem đã có bài kiểm thử nào bao quát tham số yêu cầu này chưa.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

In configure_chat_engine_parameters (src/server/rest_handler.cpp, lines 814-816 at tag v1.0.11; same on main as of 2026-10-31):

if (has_value(request, "min_p")) {
    int min_p = request["min_p"];
    auto_chat_engine->set_minp(min_p);
}

set_minp takes a float (src/include/AutoModel/automodel.hpp:509), and the flm run path parses the value with std::stof (src/runner/runner.cpp:600). Because of the int, a usual value such as "min_p": 0.05 is truncated to 0 before it reaches the sampler, so min_p has no effect through the server API. In the same function, temperature and top_p are read as float.

Expected: float min_p = request["min_p"];

Found by reading the source; not checked at runtime.

Ngôn ngữ chính
C++
Star
2k
Fork
174
Merge trung bình
14 giờ 49 phút
Pull request đã merge (30 ngày)
110

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của ROCm/FastFlowLM

Tất cả issue của ROCm/FastFlowLM

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.