[Bug][integrations][java] Ollama tool conversion fails on nullable tool parameters

Aperta Adatta ai principianti
#1,395 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
84/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
java, ollama
Ambito
backend

Direzione di ricerca

Inizia da OllamaChatModelConnection.convertToOllamaTools in integrations/chat-models/ollama/src/main/java/org/apache/flink/agents/integrations/chatmodels/ollama/OllamaChatModelConnection.java e dalla copertura della conversione in OllamaChatModelConnectionTest. Riproduci il problema con uno schema la cui proprietà ha tipo ["string", "null"], quindi verifica come il tipo non nullo debba essere passato a Ollama. Il lavoro è completato quando la conversione riesce e il test verifica che il parametro venga inviato con il suo tipo non nullo.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Search before asking
  • I searched in the issues and found nothing similar.
Description

A Java function tool with a nullable parameter cannot be used with the Java Ollama chat model.

FunctionSchema writes @ToolParam(nullable = true) as "type": [<type>, "null"] (plan/src/main/java/org/apache/flink/agents/plan/tools/FunctionSchema.java:186). OllamaChatModelConnection.convertToOllamaTools reads every property's type as a String (integrations/chat-models/ollama/src/main/java/org/apache/flink/agents/integrations/chatmodels/ollama/OllamaChatModelConnection.java:158).

Expected: the tool converts, with the parameter sent as its non-null type.
Actual: every chat call with that tool fails with RuntimeException: java.lang.ClassCastException: class java.util.ArrayList cannot be cast to class java.lang.String.

The Python Ollama connection passes the schema through and is not affected.

How to reproduce

In OllamaChatModelConnectionTest, convert a tool whose schema is:

{"type":"object","properties":{"city":{"type":["string","null"]}},"required":["city"]}

connection().convertToOllamaTools(List.of(new SchemaOnlyTool(schema))) throws the ClassCastException above.

Version and environment

main at 5b0b5531, Java 17, macOS.

Are you willing to submit a PR?
  • I'm willing to submit a PR!
Lingua principale
Java
Stelle
491
Fork
184
Merge medio
1g 17h
PR unite (30g)
69

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di apache/flink-agents

Tutte le issue di apache/flink-agents

Issue simili

Altre issue su Java

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.