Need help with enabling GPUs while predicting through fine-tuned BERT Tensorflow Model on Azure Databricks
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 25/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- azure, scala, spark, tensorflow
调研方向
从链接的 predicting_movie_reviews_with_bert_on_tf_hub.ipynb 和 Azure Databricks TensorFlow 文档开始。在指定的 Runtime 7.2 ML 四 GPU 集群上重现报告中的 tf.__version__ 和 tf.test.is_gpu_available() 输出，然后检查预测工作是否到达 worker 节点。当 GPU 可用性检查和集群利用率证明预测使用了预期的 GPU 时，即视为完成。
由索引模型根据 Issue 内容生成。
描述
Hi,
I am referring to this code (https://github.com/google-research/bert/blob/master/predicting_movie_reviews_with_bert_on_tf_hub.ipynb for classification) and running it on Azure Databricks Runtime 7.2 ML (includes Apache Spark 3.0.0, GPU, Scala 2.12). I was able to train a model. Although for predictions, I am using a 4 GPU cluster but it is still taking very long time. I suspect that my cluster is not fully utilized and infact still being used as CPU only...Is there anything I need to change to ensure that the GPUs cluster is being utilized and able to function in distributed manner.
I also referred to Databricks documentation (https://docs.microsoft.com/en-us/azure/databricks/applications/machine-learning/train-model/tensorflow) and did install gpu enabled tensorflow mentioned as:
But even after that print([tf.version, tf.test.is_gpu_available()]) still shows FALSE as value and no improvement in my cluster utilization
Can anyone help on how can i enable full cluster utilization (to worker nodes) for my prediction through fine-tuned bert model?
I would really appreciate the help.
- 主要语言
- Scala
- 星标
- 743
- 派生
- 158
- PR 合并指标
- 30 天内没有已合并 PR
贡献指南
这个仓库没有索引到贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
databricks/tensorframes 的其他 Issue
-
难度 5/5 一周以上 新手友好度 20/100
databricks/tensorframes#185 ·
-
难度 4/5 3-5 天 新手友好度 30/100
databricks/tensorframes#179 ·
-
难度 5/5 一周以上 新手友好度 15/100
databricks/tensorframes#176 · 2 条评论 ·
-
难度 4/5 3-5 天 新手友好度 30/100
databricks/tensorframes#165 ·
-
难度 2/5 1-3 小时 新手友好度 30/100
databricks/tensorframes#164 ·
查看 databricks/tensorframes 的全部 Issue
相似的 Issue
-
Area: Excel support
难度 2/5 1-3 小时 新手友好度 75/100
orbeon/orbeon-forms#7893 ·
-
难度 2/5 1-3 小时 新手友好度 70/100
chipsalliance/rocket-chip#3833 ·
-
ShuffleManagerRegistry.register recursion guard is inverted, permits GlutenShuffleManager subclasses 未关闭
难度 2/5 1-3 小时 新手友好度 78/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 65/100
-
难度 2/5 1-3 小时 新手友好度 78/100