unslothai/unsloth

[Bug] Tool_Calling does not work properly

Open

#3,092 建立於 2025年8月5日

在 GitHub 查看
 (3 留言) (0 反應) (0 負責人)Python (5,658 fork)batch import
help wanted

倉庫指標

Star
 (64,271 star)
PR 合併指標
 (平均合併 3天 15小時) (30 天內合併 525 個 PR)

描述

I followed this notebook: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen2.5_Coder_(1.5B)-Tool_Calling.ipynb

Can I only use qwen for tool calling? When I use llama 3.2 1B, when executing the Function for Generation Constraint, I get NotImplementedError: Tokenizer not supported: PreTrainedTokenizerFast

When using phi-4-mini, I get ValueError: The following model_kwargs are not used by the model: ['num_logits_to_keep'] (note: types in the generate arguments will also be displayed in this list).

How can I make it run smoothly?

貢獻者指南

研究方向
調查 Llama 3.2 1B 的錯誤：不支援該分詞器。檢查 unsloth 的分詞器映射並新增對 PreTrainedTokenizerFast 的支援。對於 phi 4 mini，錯誤是關於未使用的 model kwargs；確保 generate() 不傳遞不支援的參數。與 Qwen2.5 筆記本比較以找出差異。
技術棧
python
領域
backendmachine learning
議題類型
錯誤
難度面向新貢獻者的預計實作難度，1 表示很小改動，5 表示專家級工作。
2
預計時間有經驗貢獻者完成調查、實作、測試並準備 pull request 的粗略時間範圍。
1-3 小時
活動狀態議題目前的可參與程度：新鮮、活躍、陳舊、阻塞或等待維護者輸入。
活躍
清晰度議題是否清楚說明預期改動、驗收標準和下一步。
大致清晰
前置要求
PythonBasic knowledge of LLMs
新手友善度1-100 的估計分數，表示該議題對首次貢獻者的友善程度。
50