Is there guarantee for the correctness of data transformation code?

Aperta
#128 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 2 giorni

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
20/100
Tipo di issue
Bug
Chiarezza
Da chiarire
Stato di attività
Ferma

Direzione di ricerca

Riprodurre la trasformazione segnalata usando gpt-4o-mini, confrontandola con gpt-4o per il prompt “show only top 5 CO2 emission countries’ trends.” L’issue non indica file né test; chiarire il risultato atteso e se la modifica prevista consiste nella validazione, in codice di trasformazione modificabile dall’utente o in indicazioni per gestire un output errato del modello.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Thanks for this amazing tool!

I can reproduce the results shown in the "Data Formulator 2" paper using the model gpt-4o.

However, when I changed the model to gpt-4o-mini, it gives wrong result (see the image below) for the step "show only top 5
CO2 emission countries’ trends
". Then I paraphrased the NL prompt "show only top 5
CO2 emission countries’ trends
" in another way, still it gives the same wrong result.

Does this imply that it can happen that the visualization intent may never be understood?
Or this is just a matter of which model is being used?

In such case, how can a user go ahead? Currently, it seems a user can only try different prompts again and again until it succeeds. Is there a way (and is it allowed) for users to debug and modify the data transformation code themselves?

Image

Lingua principale
Python
Stelle
17.7k
Fork
1.7k
Merge medio
4g 1h
PR unite (30g)
8

Preparare l'ambiente

Apri in Codespaces

Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di microsoft/data-formulator

Tutte le issue di microsoft/data-formulator

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.