Add ExLlama inference support

Repository-Metriken

Stars

14 Stars (14 Stars)

PR-Merge-Metriken

Keine gemergten PRs in 30 T (Keine gemergten PRs in 30 T)

Beschreibung

Contributor Guide

Research-Richtung

Untersuchen Sie den vorhandenen Inferenzcode und integrieren Sie ExLlama gemäß den bereitgestellten Links.

Tech Stack

python

Domain

machine learningai

Issue Type

Funktion

SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.

3

Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.

Halber Tag

AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.

Aktiv

KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.

Klar

Voraussetzungen

PythonGit

EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.

60