官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Anfängerfreundlichkeit
- 25/100
- Issue-Typ
- Bug
- Klarheit
- Muss geklärt werden
- Aktivitätsstatus
- Veraltet
- Tech-Stack
- cpp
- Bereich
- machine-learning
Rechercherichtung
Beginne damit, den gemeldeten Unterschied zwischen der offiziellen Demo und der lokalen Ausführung mit den aufgelisteten 1B-, 2B-, 3B-, 7B- und 10B-Modellen nachzustellen. Lies die lokalen Inferenzanweisungen des Repositorys und vergleiche die lokale Konfiguration mit der Demo; abgeschlossen ist die Aufgabe, wenn eine reproduzierbare Ursache identifiziert oder die fehlenden Umgebungsdetails dokumentiert sind, die zur Erklärung der schlechten Antworten erforderlich sind.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
测试了 1B 3B 7B 10B 和 基础模型 2B 回答都不好。
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"地球与月球的平均距离约为238,000千米。","role":"assistant"}}],"created":1773824825,"model":"gpt-3.5-turbo-0613","object":"chat.completion","usage":{"completion_tokens":26,"prompt_tokens":127,"total_tokens":153},"id":"chatcmpl-bZVssHWGmXJxuvEmjJU4F3Nm8In8Q4xd"}
- Vorherrschende Sprache
- C++
- Sterne
- 40.3k
- Forks
- 3.7k
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus microsoft/BitNet
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
-
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 92/100
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
Alle Issues in microsoft/BitNet
Ähnliche Issues
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
flutter-webrtc/flutter-webrtc#2206 ·
-
litertlm-android AAR ships no consumer ProGuard rules → "mid == null" SIGABRT in minified apps Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 70/100
google-ai-edge/LiteRT-LM#3739 ·
-
Component: GLib
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 70/100
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 65/100
brave/brave-browser#59300 ·
-
Mute ydb/tests/functional/dstool/test_canonical_requests.py.Test.test_group_take_snapshot in main Offenai_reviewed
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 70/100
ydb-platform/ydb#53974 · 3 Kommentare ·