microsoft/markitdown

LLM Integration

Open

#12 ouverte le 13 déc. 2024

Voir sur GitHub
 (16 commentaires) (9 réactions) (0 assignés)Python (123 207 stars) (8 330 forks)batch import
enhancementgood first issue

Description

As a feature suggestion, I would love if this could allow you to plug in an LLM (such as GPT-4o) where images that are included in the content could be sent to the LLM for further understanding. For example, if it was say a bar chart or graph, it would be sent to convert that to a Markdown table and be integrated in the final Markdown output.

Guide contributeur

Stack technique
python
Domaine
backendcli
Type d'issue
feature
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
over 1 week
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
needs investigation
Prérequis
Python programmingHTTP API callsFamiliarity with markitdown
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
20
Direction de recherche
Review the markitdown source code for current image handling, likely in the conversion logic. Investigate integrating an LLM API like OpenAI's GPT 4o for image to text conversion. Consider how to pass images, handle API keys, and format results into Markdown tables. Also check the issue comments for any additional constraints or desired flexibility.