Need help with enabling GPUs while predicting through fine-tuned BERT Tensorflow Model on Azure Databricks
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- azure, scala, spark, tensorflow
- Lĩnh vực
- cloud, distributed-systems, machine-learning
Hướng nghiên cứu
Bắt đầu với predicting_movie_reviews_with_bert_on_tf_hub.ipynb được liên kết và tài liệu Azure Databricks TensorFlow. Tái tạo kết quả đầu ra được báo cáo của tf.__version__ và tf.test.is_gpu_available() trên cluster bốn GPU Runtime 7.2 ML đã nêu, sau đó kiểm tra xem công việc dự đoán có đến được các worker node hay không. Được xem là hoàn tất khi kiểm tra tính khả dụng của GPU và mức sử dụng cluster cho thấy việc dự đoán sử dụng các GPU dự kiến.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi,
I am referring to this code (https://github.com/google-research/bert/blob/master/predicting_movie_reviews_with_bert_on_tf_hub.ipynb for classification) and running it on Azure Databricks Runtime 7.2 ML (includes Apache Spark 3.0.0, GPU, Scala 2.12). I was able to train a model. Although for predictions, I am using a 4 GPU cluster but it is still taking very long time. I suspect that my cluster is not fully utilized and infact still being used as CPU only...Is there anything I need to change to ensure that the GPUs cluster is being utilized and able to function in distributed manner.
I also referred to Databricks documentation (https://docs.microsoft.com/en-us/azure/databricks/applications/machine-learning/train-model/tensorflow) and did install gpu enabled tensorflow mentioned as:
But even after that print([tf.version, tf.test.is_gpu_available()]) still shows FALSE as value and no improvement in my cluster utilization
Can anyone help on how can i enable full cluster utilization (to worker nodes) for my prediction through fine-tuned bert model?
I would really appreciate the help.
- Ngôn ngữ chính
- Scala
- Star
- 743
- Fork
- 158
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của databricks/tensorframes
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100
databricks/tensorframes#185 ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100
databricks/tensorframes#179 ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
databricks/tensorframes#176 · 2 bình luận ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100
databricks/tensorframes#165 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 30/100
databricks/tensorframes#164 ·
Tất cả issue của databricks/tensorframes
Issue tương tự
-
Area: Excel support
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
orbeon/orbeon-forms#7893 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
chipsalliance/rocket-chip#3833 ·
-
ShuffleManagerRegistry.register recursion guard is inverted, permits GlutenShuffleManager subclasses Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100