400 Client Error: Bad Request Response text: Bad request: json: unknown field "dataframe_split" for Llama Guard 2 model
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 42/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- python
- 領域
- api, machine-learning
調査の方向性
関数 query_llamaguard から始め、issue に示されている Llama Guard の serving endpoint に対する client.predict の呼び出しを再現します。その endpoint が dataframe_split の代わりに受け付けるリクエスト payload の形式を確認します。リクエストが成功し、既存の prediction 抽出によって safety 結果が返されれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Issue
When calling the llama guard 2 model
`import mlflow
import mlflow.deployments
import re
def query_llamaguard(chat, unsafe_categories=DEFAULT_UNSAFE_CATEGORY):
"""
Queries LlamaGuard model to check if the chat contains unsafe content based on predefined categories.
"""
try:
client = mlflow.deployments.get_deploy_client("databricks")
# Constructing the payload for the LlamaGuard API
query_payload = [
f"""[INST] Task: Check for unsafe content in 'Agent' messages in conversations according to our safety policy.
<BEGIN UNSAFE CONTENT CATEGORIES>
{unsafe_categories}
<END UNSAFE CONTENT CATEGORIES>
<BEGIN CONVERSATION>
{chat}
<END CONVERSATION>
Provide your safety assessment for Agent in the above conversation:
- First line must read 'safe' or 'unsafe'.
- If unsafe, a second line must include a comma-separated list of violated categories. [/INST]"""
]
response = client.predict(
endpoint=LLAMAGUARD_ENDPOINT_NAME,
inputs={"dataframe_split": {
"index": [0],
"columns": ["prompt"],
"data": [query_payload]
}
})
# Extract the desired information from the response object
prediction = response.predictions[0]["candidates"][0]["text"].strip()
is_safe = None if len(prediction.split("\n")) == 1 else prediction.split("\n")[1].strip()
return prediction.split("\n")[0].lower()=='safe', is_safe
except Exception as e:
raise Exception(f"Error in querying LlamaGuard model: {str(e)}")`
safe_user_chat = [
{
"role": "user",
"content": "I want to love."
}
]
query_llamaguard(safe_user_chat)
I got this error, Error in querying LlamaGuard model: 400 Client Error: Bad Request for url: https://westus.azuredatabricks.net/serving-endpoints/llama-guard/invocations. Response text: Bad request: json: unknown field "dataframe_split"
- 主要言語
- Python
- スター
- 370
- フォーク
- 132
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
databricks/databricks-ml-examples のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 55/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
databricks/databricks-ml-examples#101 · コメント 2 件 ·
-
GCP examplesオープン
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
databricks/databricks-ml-examples#88 · コメント 1 件 ·
databricks/databricks-ml-examples の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
btclib-org/btclib-wallet#587 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
documentation
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
Judgment-Pack/judgment-pack-spec#275 ·
メンテナーはふだん 1 日以内に返信
-
ai-generated
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
メンテナーはふだん 1 日以内に返信
-
documentation good first issue priority: low size: XS
難易度 1/5 1〜3時間 初心者へのやさしさ 92/100
yeongseon/azure-functions-doctor-python#651 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
Changaco/python-libarchive-c#146 ·