unslothai/unsloth

[Bug] Tool_Calling does not work properly

Open

#3,092 opened on 2025年8月5日

GitHub で見る
 (3 comments) (0 reactions) (0 assignees)Python (5,658 forks)batch import
help wanted

Repository metrics

Stars
 (64,271 stars)
PR merge metrics
 (平均マージ 3d 15h) (30d で 525 merged PRs)

説明

I followed this notebook: https://colab.research.google.com/github/unslothai/notebooks/blob/main/nb/Qwen2.5_Coder_(1.5B)-Tool_Calling.ipynb

Can I only use qwen for tool calling? When I use llama 3.2 1B, when executing the Function for Generation Constraint, I get NotImplementedError: Tokenizer not supported: PreTrainedTokenizerFast

When using phi-4-mini, I get ValueError: The following model_kwargs are not used by the model: ['num_logits_to_keep'] (note: types in the generate arguments will also be displayed in this list).

How can I make it run smoothly?

コントリビューターガイド

調査方針
Llama 3.2 1B のエラーを調査：トークナイザーがサポートされていません。unsloth のトークナイザーマッピングを確認し、PreTrainedTokenizerFast のサポートを追加してください。phi 4 mini については、未使用の model kwargs に関するエラーです。generate() がサポートされていない引数を渡さないようにしてください。Qwen2.5 ノートブックと比較して違いを特定してください。
技術スタック
python
領域
backendmachine learning
Issue 種別
バグ
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
2
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
1-3時間
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
アクティブ
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
おおむね明確
前提条件
PythonBasic knowledge of LLMs
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
50