Character matrices with more than one row come back transposed from <blob>

Ouverte Adaptée aux débutants
#1,702 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 6 jours

Personne n'a encore pris cette issue.

Évaluation

Difficulté
2/5
Temps estimé
1-3 heures
Accessibilité débutants
78/100
Type d'issue
Bug
Clarté
Clairement spécifiée
Activité
Active
Stack technique
mysql, numpy, postgresql, python
Domaine
databases

Piste de recherche

Commencez par la sérialisation CHAR et la logique de remodelage dans src/datajoint/blob.py, en particulier les lignes référencées dans l’issue. Reproduisez l’aller-retour avec le tableau NumPy à deux lignes fourni, puis vérifiez si l’écriture par colonnes préserve les blobs stockés par Python tout en produisant la matrice attendue pour MATLAB. Le travail est terminé lorsque la matrice de caractères effectue l’aller-retour sans changement et que MATLAB la lit sans changement.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

bug

A character array (S1) with two or more rows comes back transposed from a <blob> attribute.

import numpy as np
from datajoint import blob

x = np.array([[b"a", b"b", b"c"], [b"d", b"e", b"f"]])
blob.unpack(blob.pack(x))
# array([['a', 'c', 'e'],
#        ['b', 'd', 'f']], dtype='<U1')

The same happens through a table (insert1 and fetch1 on a <blob> attribute), on MySQL and PostgreSQL, with master at eefe74b4.

The writer stores CHAR data in row-major order: array.view(np.uint8).astype(np.uint16).tobytes() (blob.py#L345). The reader reshapes it in column-major order (blob.py#L309), which is how MATLAB writes it and how every other array type is written. Bytes laid out the MATLAB way read back correctly. Commit 8f868518 (2019) changed the writer from array.tobytes(order='F') to the current form.

One-row and one-dimensional character arrays are not affected, because they are read back as a single string.

Expected

A character matrix round-trips unchanged, and MATLAB reads it unchanged.

Suggested fix

Write the CHAR data in column-major order: array.view(np.uint8).astype(np.uint16).tobytes(order="F"). Values already stored by Python keep their row-major bytes, so they read back as they do today.

Langage dominant
Python
Étoiles
198
Forks
103
Merge moyen
6 j 1 h
PR mergées (30 j)
10

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de datajoint/datajoint-python

Toutes les issues de datajoint/datajoint-python

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.