Using ParallelRunConfig and DockerConfig not working
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 30/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- azure, docker, jupyter-notebook, python
- Área
- devops, machine-learning
Línea de trabajo
Comienza con el notebook vinculado de ejecución en paralelo y compara sus configuraciones ParallelRunConfig, DockerConfiguration y source_directory con el fragmento proporcionado. Sigue path/to/docker/script_1.py y los scripts init y run para determinar cómo localizan los archivos en la imagen. Se considera terminado cuando los scripts pueden encontrar de forma fiable la configuración de Hydra esperada cuando se ejecuta el pipeline.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Hello, I am attempting to use the ParallelRunStep for a set of python scripts that I currently run inside a docker container. I am trying to deploy this using an AzureML pipeline that reads from the docker image saved in our ACR. However, the init and run scripts in my parallel script never seem to be able to access the files I have moved into the docker container. Particularly when I try and search for a hydra config file in my init and run scripts, I am unable to find the file, even when I look for it explicitly. I have included a snippet that is based on the example code from this repo: example of parallel run config
Any idea what I am doing wrong? I have included a snippet of what I am trying below
docker_config = DockerConfiguration(use_docker=True, arguments=docker_args)
environment_name = "my-environment"
environment = Environment(environment_name)
base_image_name = os.getenv("ACR_BASE_IMAGE_NAME")
base_image_tag = os.getenv("ACR_IMAGE_TAG")
environment.docker.base_image = f"{base_image_name}:{base_image_tag}"
environment.docker.base_image_registry.address = f"{acr_name}.azurecr.io"
environment.docker.base_image_registry.username = os.getenv("ACR_USER")
environment.docker.base_image_registry.password = os.getenv("ACR_PASSWORD")
environment.python.user_managed_dependencies = True
environment.docker.enabled=True
run_config = RunConfiguration()
run_config.environment = environment
run_config.docker = docker_config
parallel_run_config = ParallelRunConfig(
source_directory=".",
entry_script="path/to/docker/script_1.py",
compute_target=compute_target,
environment=environment,
node_count=2,
error_threshold=10,
output_action="append_row",
mini_batch_size=1,
logging_level='DEBUG'
)
step_parallel = ParallelRunStep(
name="parallel-step",
parallel_run_config=parallel_run_config,
inputs=my_inputs,
output=output_dir,
arguments=args,
allow_reuse=True,
)
step_parallel._runconfig.docker = docker_config #Tried with and without, does not seem to make a difference
pipeline_steps = StepSequence(steps=[step_parallel])
pipeline_run = Pipeline(workspace=ws, steps=pipeline_steps)
# Submit your pipeline run
submitted_pipeline_run = Experiment(ws, "Azure Pipeline").submit(pipeline_run, regenerate_outputs=True)```
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 4.4k
- Forks
- 2.6k
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de Azure/MachineLearningNotebooks
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Azure/MachineLearningNotebooks#1975 · 1 comentario ·
-
duplicates Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 68/100
Azure/MachineLearningNotebooks#1960 ·
-
machine Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 10/100
Azure/MachineLearningNotebooks#1987 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
Azure/MachineLearningNotebooks#1985 · 1 comentario ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 35/100
Azure/MachineLearningNotebooks#1981 · 1 reacción ·
Todos los issues de Azure/MachineLearningNotebooks
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
copse-dev/agent-pane#2953 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 90/100
simonw/sqlite-utils#872 ·
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 84/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
danielmiessler/LifeOS#2215 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
sympozium-ai/sympozium#627 ·