Performance metrics - report average class accuracy, rather than just accuracy.
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 38/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- keras, python
- Lĩnh vực
- machine-learning
Hướng nghiên cứu
Bắt đầu bằng cách xác định cấu hình metric huấn luyện và validation của Keras trong DeepProfiler, đồng thời xem lại cách metric accuracy hiện tại được chọn. Sử dụng kịch bản mất cân bằng lớp trong issue để xác định hành vi của accuracy trung bình theo lớp, sau đó xác minh rằng metric này được dùng làm metric hiệu năng mặc định cho cả huấn luyện và validation.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
As discussed in issue #237 and PR #238 , the training and validation results can be biased by the class imbalance typical in high-throughput experiments. Negative controls tend to have a lot more example images, both for training and validation, while other classes have only a few. The accuracy metric, which is the default in DeepProfiler training and validation, is sensitive to class imbalance. Therefore, the observed performance may not inform correctly how many phenotypes can be recognized, only how many images regardless of the class.
We should use average class accuracy to obtain a metric that gives an estimate of how many classes can be accurately recognized from the images, instead of how many images are correctly classified independently of their class.
As far as I know, Keras does not implement a metric like this. But we could easily implement a metric plugin and make it the default performance metric in DeepProfiler.
- Ngôn ngữ chính
- Python
- Star
- 129
- Fork
- 52
- Merge trung bình
- 5 giờ 20 phút
- Pull request đã merge (30 ngày)
- 2
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của cytomining/DeepProfiler
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
cytomining/DeepProfiler#360 · 5 bình luận ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
cytomining/DeepProfiler#359 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 25/100
cytomining/DeepProfiler#355 · 1 bình luận ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
cytomining/DeepProfiler#352 · 3 bình luận ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
cytomining/DeepProfiler#347 · 3 bình luận ·
Tất cả issue của cytomining/DeepProfiler
Issue tương tự
-
repo-audit
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
scverse/repo-health#20 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
/context/prime scope override double-prefixes an entity-ref project and drops its scoped memoriesĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
phasespace-labs/palinode#232 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
collective/icalendar#1858 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
Maintainer thường phản hồi trong vòng 1 ngày
-
lfx-mcp cannot supply global variables: LangflowClient drops X-LANGFLOW-GLOBAL-VAR-* from envĐang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
langflow-ai/langflow#15496 ·
Maintainer thường phản hồi trong vòng 1 ngày