Is there guarantee for the correctness of data transformation code?

Đang mở
#128 1 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
20/100
Loại issue
Lỗi
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Đình trệ

Hướng nghiên cứu

Tái hiện transformation đã được báo cáo bằng gpt-4o-mini, so sánh với gpt-4o cho prompt “show only top 5 CO2 emission countries’ trends.” Issue không nêu file hoặc test nào; hãy làm rõ kết quả mong đợi và liệu thay đổi dự kiến là validation, mã transformation có thể chỉnh sửa bởi người dùng, hay hướng dẫn xử lý output không chính xác của model.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Thanks for this amazing tool!

I can reproduce the results shown in the "Data Formulator 2" paper using the model gpt-4o.

However, when I changed the model to gpt-4o-mini, it gives wrong result (see the image below) for the step "show only top 5
CO2 emission countries’ trends
". Then I paraphrased the NL prompt "show only top 5
CO2 emission countries’ trends
" in another way, still it gives the same wrong result.

Does this imply that it can happen that the visualization intent may never be understood?
Or this is just a matter of which model is being used?

In such case, how can a user go ahead? Currently, it seems a user can only try different prompts again and again until it succeeds. Is there a way (and is it allowed) for users to debug and modify the data transformation code themselves?

Image

Ngôn ngữ chính
Python
Star
17.7k
Fork
1.7k
Merge trung bình
4 ngày 1 giờ
Pull request đã merge (30 ngày)
8

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của microsoft/data-formulator

Tất cả issue của microsoft/data-formulator

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.