Improve speed of converting SQLite to FHIR
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python, sqlite
- Área
- databases, performance
Línea de trabajo
Comienza examinando la ruta de conversión de semsql y los tamaños resultantes de hpo.db frente a hpo.owl descritos en el informe. Perfila tanto la creación de SQLite como la carga posterior en OAK para determinar si el tamaño del archivo, la estructura de la base de datos o un trabajo de análisis innecesario causa la demora; se considera terminado cuando se haya identificado el componente responsable y una vía de optimización concreta.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Overview
I tried to convert HPO to FHIR using semsql as an intermediary. However, after about 40 minutes, I decided to give up and switch to Obographs for speed. I think it took about 10 minutes to convert to a .db, and the rest of the time in my process was just OAK trying to load the DB. Normally semsql is much faster to load than using rdflib, but not in this case. I looked and saw that my hpo.db was about 1GB, which is about 10x larger than my hpo.owl. I looked at some of my other conversions, and it looks like this 5-10x file size was normal.
If I'm correct that the issue is not so much OAK performance, but just the file size in general, is there anything we can do to reduce these file sizes? Or maybe it's not so much the size, but the structure that is taking OAK a long time to parse downstream? If this is more of an OAK issue (or both an OAK issue and a semsql issue), I can open up a ticket over there.
Potential causes
May be 1 or more of the following that's taking a lot of time.
a. Semsql: File size
b. Semsql: Non-optimal structures for downstream parsing
c. OAK: Not parsing optimally
d. OAK: Spending time doing things that are maybe not needed for my use case
- Lenguaje dominante
- Python
- Estrellas
- 70
- Forks
- 7
- Merge medio
- 4 h 18 min
- PR fusionados (30 d)
- 1
Preparar el entorno
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de INCATools/semantic-sql
-
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
INCATools/semantic-sql#124 ·
-
Migrate direct raw-S3 bbop-sqlite consumers to the semanticsql CDNQuizá libre de nuevo @caufieldjh la tomó hace 92 días y no hay ningún pull request abierto. Abiertohelp wanted
INCATools/semantic-sql#115 · 7 comentarios · 1 asignado ·
-
[bot] Cut a semsql release including the semanticsql.berkeleybop.io defaultQuizá libre de nuevo @caufieldjh la tomó hace 92 días y no hay ningún pull request abierto. Abiertoenhancement
INCATools/semantic-sql#114 · 2 comentarios · 1 reacción · 1 asignado ·
-
enhancement
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
INCATools/semantic-sql#111 · 1 comentario ·
-
Integrate ENERO Foundry ontologies into Semantic-SQLPosiblemente ocupada @cmungall la tomó hace 198 días. Abiertoenhancement
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
INCATools/semantic-sql#107 ·
Todos los issues de INCATools/semantic-sql
Issues similares
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Deltares/imod-python#1940 ·
Los mantenedores suelen responder en 1 día
-
effort: low prio: low ready
Dificultad 1/5 Menos de una hora Aptitud para principiantes 82/100
digitalfabrik/integreat-cms#4621 ·
Los mantenedores suelen responder en 5 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
ioos/compliance-checker#1375 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día