TypeError: argument of type 'azureml.dataprep.rslex.StreamInfo' is not iterable
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 38/100
- Type d'issue
- Bug
- Clarté
- Plutôt claire
- Activité
- À l'abandon
- Stack technique
- azure, python, spark
- Domaine
- data, machine-learning
Piste de recherche
Commencez par exécuter la reproduction NycTlcYellow fournie avec azureml-opendatasets==1.55.0, puis inspectez azureml/opendatasets/dataaccess/_blob_accessor.py, en particulier get_spark_dataframe et _get_relative_path. Déterminez pourquoi target_paths contient un StreamInfo et comparez les chemins pandas et Spark ; le travail est terminé lorsque to_spark_dataframe s’exécute jusqu’à son terme sans le TypeError signalé.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Hi, I encountered below error, I have azureml-opendatasets==1.55.0
Calling to_spark_dataframe()
Traceback (most recent call last):
File "/mnt/c/users/cruiseli/OneDrive - Microsoft/Desktop/workspace/SynapseML-Utils/test_aml.py", line 30, in
nyc_tlc_df2 = nyc_tlc.to_spark_dataframe()
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/accessories/_loggerfactory.py", line 139, in wrapper
return func(*args, **kwargs)
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/accessories/open_dataset_base.py", line 164, in to_spark_dataframe
return self._to_spark_dataframe()
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/accessories/open_dataset_base.py", line 305, in _to_spark_dataframe
return self._blob_accessor.get_spark_dataframe(
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/dataaccess/_blob_accessor.py", line 303, in get_spark_dataframe
paths = [wasab_format % (self._blob_container_name, self._blob_account_name,
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/dataaccess/_blob_accessor.py", line 304, in
self._get_relative_path(path)) for path in target_paths]
File "/home/cruise/mambaforge/lib/python3.10/site-packages/azureml/opendatasets/dataaccess/_blob_accessor.py", line 470, in _get_relative_path
if "blob.core.windows.net" in url:
TypeError: argument of type 'azureml.dataprep.rslex.StreamInfo' is not iterable
Code to reproduce:
import azureml.core
from azureml.core import Datastore, Dataset
from azureml.core.workspace import Workspace
from azureml.core.experiment import Experiment
from azureml.core.authentication import InteractiveLoginAuthentication
import logging
import pandas as pd
import time
import sys
print("Testing opendatasets -- start")
from azureml.opendatasets import NycTlcYellow
from datetime import datetime
from dateutil import parser
end_date = parser.parse('2018-05-30')
start_date = parser.parse('2018-05-28')
nyc_tlc = NycTlcYellow(start_date=start_date, end_date=end_date)
print("Calling to_pandas_dataframe()")
ts = time.time()
nyc_tlc_df = nyc_tlc.to_pandas_dataframe()
te = time.time()
print("Time taken to perform to_pandas_dataframe():" + str(te-ts))
print("Calling to_spark_dataframe()")
ts2 = time.time()
nyc_tlc_df2 = nyc_tlc.to_spark_dataframe()
te2 = time.time()
nyc_tlc_df2.show(2, truncate = False)
print("Time taken to perform to_spark_dataframe():" + str(te2-ts2))
print("Testing opendatasets -- end")
- Langage dominant
- Jupyter Notebook
- Étoiles
- 4.4k
- Forks
- 2.6k
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Préparer son environnement
Ce projet ne fournit ni conteneur de développement, ni Dockerfile, ni guide de contribution : l'installation est à votre charge. Commencez par son README, et consultez notre guide de la première contribution pour les étapes générales.
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de Azure/MachineLearningNotebooks
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
Azure/MachineLearningNotebooks#1975 · 1 commentaire ·
-
duplicatesOuverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 68/100
Azure/MachineLearningNotebooks#1960 ·
-
machineOuverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 10/100
Azure/MachineLearningNotebooks#1987 ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
Azure/MachineLearningNotebooks#1985 · 1 commentaire ·
-
Dependencies to azure-storage-blob should be updatedPeut-être pris Une pull request liée à cette issue est ouverte ou déjà fusionnée. Ouverte
Difficulté 3/5 1-2 jours Accessibilité débutants 35/100
Azure/MachineLearningNotebooks#1981 · 1 réaction ·
Toutes les issues de Azure/MachineLearningNotebooks
Issues similaires
-
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
CliMA/ClimaArtifacts#184 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
google/libaddressinput#255 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
Les mainteneurs répondent en général sous 1 jour
-
Loading and saving back from file with netcdf failsPeut-être pris @mokashang l’a pris aujourd’hui. Ouvertebug topic-backends
Difficulté 2/5 1-3 heures Accessibilité débutants 74/100
pydata/xarray#11672 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour