Hacktoberfest 2026：メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

MLR and vLLM conflict, code not runnable

オープン
  • 何か問題がありますか？
#110 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
3/5
見積もり時間
1〜2日
初心者へのやさしさ
35/100
issue の種類
バグ
明瞭さ
おおむね明確
活発さ
停滞
技術スタック
python
領域
machine-learning

調査の方向性

llm-models/mistral/mistral-7b/01_b_load_inference_vllm.py から始め、その依存関係を、記載されている mlflow、vllm、transformers および関連パッケージのバージョンと比較します。Python を再起動した後、15.4 LTS ML GPU 環境で import を実行します。完了の条件は、例を実行できること、または現在利用可能で動作するリファレンスが文書化されていることです。

索引モデルが issue の本文から書いたものです。

説明

Hello, I know this is a bit old: llm-models/mistral/mistral-7b/01_b_load_inference_vllm.py, but I'm looking for example code snippets with VLLM working on DBR/MLR. Your markdown refers to MLR 14.0 GPU, which is no longer available, but even using 14.3 LTS ML GPU with the g5.4xlarge gives an error when trying to import vllm.

I've tried my hand at this and I can confirm that this:

%pip install mlflow==2.20.3 vllm==0.4.2 transformers==4.49.0 huggingface_hub==0.27.1 openai==1.65.4 cloudpickle==2.2.1
dbutils.library.restartPython()

Allows you to import vllm as LLM using it in 15.4 LTS ML GPU environment.

Do you have any currently operable examples of using VLLM on Databricks that I can reference?

主要言語
Python
スター
370
フォーク
132
30日以内にマージされた PR はありません

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

databricks/databricks-ml-examples のほかの issue

databricks/databricks-ml-examples の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。