官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 25/100
- Type d'issue
- Bug
- Clarté
- À clarifier
- Activité
- À l'abandon
- Stack technique
- cpp
- Domaine
- machine-learning
Piste de recherche
Commencez par reproduire la différence signalée entre la démo officielle et l’exécution locale à l’aide des modèles 1B, 2B, 3B, 7B et 10B indiqués. Lisez les instructions d’inférence locale du dépôt et comparez la configuration locale avec celle de la démo ; le travail est terminé lorsqu’une cause reproductible est identifiée ou que les détails d’environnement manquants nécessaires pour expliquer les mauvaises réponses sont documentés.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
测试了 1B 3B 7B 10B 和 基础模型 2B 回答都不好。
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"地球与月球的平均距离约为238,000千米。","role":"assistant"}}],"created":1773824825,"model":"gpt-3.5-turbo-0613","object":"chat.completion","usage":{"completion_tokens":26,"prompt_tokens":127,"total_tokens":153},"id":"chatcmpl-bZVssHWGmXJxuvEmjJU4F3Nm8In8Q4xd"}
- Langage dominant
- C++
- Étoiles
- 40.3k
- Forks
- 3.7k
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de microsoft/BitNet
-
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 92/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
Toutes les issues de microsoft/BitNet
Issues similaires
-
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
flutter-webrtc/flutter-webrtc#2206 ·
-
litertlm-android AAR ships no consumer ProGuard rules → "mid == null" SIGABRT in minified apps Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
google-ai-edge/LiteRT-LM#3739 ·
-
Component: GLib
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
brave/brave-browser#59300 ·
-
Mute ydb/tests/functional/dstool/test_canonical_requests.py.Test.test_group_take_snapshot in main Ouverteai_reviewed
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
ydb-platform/ydb#53974 · 3 commentaires ·