PyTorch on Azure ML: problem accessing GPU with ACPT environment image
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- azure, python, pytorch
調査の方向性
20_image_build_log.txt の 3408 行目付近と training_script.py の 22 行目付近から始め、リンクされている Azure ML ACPT と GPU コンテナーのドキュメントを確認します。記載されているイメージ、クラスターサイズ、conda 環境を使って実行を再現し、PyTorch を正常に import でき、CUDA シンボルエラーなしで GPU にアクセスできることを検証します。
索引モデルが issue の本文から書いたものです。
説明
In Azure Machine Learning, I am trying to set up a PyTorch 2.0.1 run on a curated ACPT image:
mcr.microsoft.com/azureml/curated/acpt-pytorch-2.0-cuda11.7:latest
(based on this and this documentation)
I use the image above on a GPU cluster with size STANDARD_NC6and this conda environment yaml:
name: compass-environment-simple
channels:
- anaconda
- pytorch
- nvidia
- conda-forge
dependencies:
- python==3.10.9
- pip
- pytorch==2.0.1
- torchvision
- torchaudio
- pytorch-cuda=11.7
- cudatoolkit=11.7
- pip:
- pandas==2.0.1
- numpy==1.24.3
- azure-ai-ml==1.7.2
- azureml-mlflow==1.51.0
- mlflow==2.3.2
- tensorboard==2.13.0
- tensorboardX==2.6
- matplotlib==3.7.1
- matplotlib-inline==0.1.6
- mizani==0.9.1
- plotnine==0.12.1
- seaborn==0.12.2
- scikit-learn==1.2.2
- scipy==1.10.1
- numpy==1.24.3
- plotly==5.14.1
- statsmodels==0.14.0
- ipython==8.14.0
- tqdm==4.65.0
- umap-learn==0.5.3
- imbalanced-learn==0.10.1
- gensim==4.3.1
- nltk==3.8.1
- python-dotenv==1.0.0
- openpyxl==3.1.2
- xlwt==1.3.0
- xlrd==2.0.1
- XlsxWriter==3.1.0
But I keep getting a couple of error messages and I cannot access the GPUs when running the PyTorch Python scripts.
-
while building the image
in20_image_build_log.txtI get a warning that the NVIDIA driver can't be detected:
WARNING: The NVIDIA Driver was not detected. GPU functionality will not be available.
(see the attached 20_image_build_log.txt at line 3408) -
when executing the Python script during a run
I get the following error message:
/bin/bash: /azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/libtinfo.so.6: no version information available (required by /bin/bash)
['/mnt/azureml/cr/j/7db89bab2dab4c479669caa5a4af805b/exe/wd', '/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python310.zip', '/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10', '/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10/lib-dynload', '/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10/site-packages', '/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10/site-packages/mpmath-1.2.1-py3.10.egg', '/mnt/azureml/cr/j/7db89bab2dab4c479669caa5a4af805b/exe/wd', '/mnt/azureml/cr/j/7db89bab2dab4c479669caa5a4af805b/exe', '/mnt/azureml/cr/j/7db89bab2dab4c479669caa5a4af805b']
Traceback (most recent call last):
File "/mnt/azureml/cr/j/7db89bab2dab4c479669caa5a4af805b/exe/wd/training_script.py", line 22, in <module>
import torch
File "/azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10/site-packages/torch/__init__.py", line 229, in <module>
from torch._C import * # noqa: F403
ImportError: /azureml-envs/azureml_8536d86a92a3687bb89e1cff176aedf4/lib/python3.10/site-packages/torch/lib/libtorch_cuda.so: undefined symbol: cudaGraphInstantiateWithFlags, version libcudart.so.11.0
What am I doing wrong?
Thanks for your help.
- 主要言語
- Jupyter Notebook
- スター
- 4.4k
- フォーク
- 2.6k
- PR マージ指標
- 30日以内にマージされた PR はありません
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
Azure/MachineLearningNotebooks のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
Azure/MachineLearningNotebooks#1975 · コメント 1 件 ·
-
duplicates オープン
難易度 1/5 1時間未満 初心者へのやさしさ 68/100
Azure/MachineLearningNotebooks#1960 ·
-
machine オープン
難易度 5/5 1週間以上 初心者へのやさしさ 10/100
Azure/MachineLearningNotebooks#1987 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
Azure/MachineLearningNotebooks#1985 · コメント 1 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
Azure/MachineLearningNotebooks#1981 · リアクション 1 件 ·
Azure/MachineLearningNotebooks の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
platform-mesh/helm-charts#2521 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
n8n-io/terraform-aws-n8n#147 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
carverauto/serviceradar#4596 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
reflex-dev/reflex#7296 · コメント 1 件 ·