microsoft/markitdown

LLM Integration

Open

#12 geöffnet am 13. Dez. 2024

Auf GitHub ansehen
 (16 Kommentare) (9 Reaktionen) (0 zugewiesene Personen)Python (123.207 Stars) (8.330 Forks)batch import
enhancementgood first issue

Beschreibung

As a feature suggestion, I would love if this could allow you to plug in an LLM (such as GPT-4o) where images that are included in the content could be sent to the LLM for further understanding. For example, if it was say a bar chart or graph, it would be sent to convert that to a Markdown table and be integrated in the final Markdown output.

Contributor Guide

Tech Stack
python
Domain
backendcli
Issue Type
feature
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
over 1 week
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
active
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
needs investigation
Voraussetzungen
Python programmingHTTP API callsFamiliarity with markitdown
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
20
Research-Richtung
Review the markitdown source code for current image handling, likely in the conversion logic. Investigate integrating an LLM API like OpenAI's GPT 4o for image to text conversion. Consider how to pass images, handle API keys, and format results into Markdown tables. Also check the issue comments for any additional constraints or desired flexibility.