JUST-OS ideas

Đang mở
#787 4 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
35/100
Loại issue
Tính năng
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Ít trao đổi
Lĩnh vực
machine-learning, search

Hướng nghiên cứu

Issue này kết hợp bốn hướng riêng biệt: truy xuất top-k thích ứng, so sánh với một mô hình 8B hiện đại, so sánh với pipeline OpenScholar và một benchmark chuyên gia được tuyển chọn. Hãy bắt đầu bằng cách xác định các entry point cho truy xuất và đánh giá của JUST-OS, sau đó chọn một hướng và xác định các đầu vào benchmark cùng tiêu chí thành công của hướng đó. Hoàn thành nghĩa là có một thử nghiệm hoặc một triển khai với phạm vi rõ ràng và kết quả được ghi lại.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

  • Make top-k adaptive: over-retrieve, rerank, then apply a relative cutoff (keep within X% of the top score) bounded by a min and max k. - so that targeted questions don't get junk in, and broad questions get sufficient coverage
  • Benchmark against a more modern 8B model, given that we don't use the full OpenScholar pipeline (e.g. Gemma 4 E4B, which scores 'highest' on AA Omniscience - i.e. low hallucinations)
  • Benchmark against the actual OpenScholar pipeline (generation-feedback-regeneration)
  • Curate our own benchmark, with expert-written OS answers (not sure how much of that exists already)
Ngôn ngữ chính
HTML
Star
42
Fork
33
Merge trung bình
17 giờ 18 phút
Pull request đã merge (30 ngày)
111

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của forrtproject/forrtproject.github.io

Tất cả issue của forrtproject/forrtproject.github.io

Issue tương tự

Thêm issue về Machine Learning

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.