官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 25/100
- Issue 类型
- 缺陷
- 描述清晰度
- 需要澄清
- 活跃度
- 停滞
- 技术栈
- cpp
调研方向
首先，使用列出的 1B、2B、3B、7B 和 10B 模型，复现官方演示与本地运行之间报告的差异。阅读 repository 的本地推理说明，并将本地配置与演示进行比较；当确定了可复现的原因，或记录了解释较差回答所需的缺失环境详情时，即表示完成。
由索引模型根据 Issue 内容生成。
描述
测试了 1B 3B 7B 10B 和 基础模型 2B 回答都不好。
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"地球与月球的平均距离约为238,000千米。","role":"assistant"}}],"created":1773824825,"model":"gpt-3.5-turbo-0613","object":"chat.completion","usage":{"completion_tokens":26,"prompt_tokens":127,"total_tokens":153},"id":"chatcmpl-bZVssHWGmXJxuvEmjJU4F3Nm8In8Q4xd"}
- 主要语言
- C++
- 星标
- 40.3k
- 派生
- 3.7k
- PR 合并指标
- 30 天内没有已合并 PR
贡献指南
这个仓库没有索引到贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
microsoft/BitNet 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row 未关闭
难度 2/5 1-3 小时 新手友好度 76/100
-
难度 2/5 1-3 小时 新手友好度 86/100
-
难度 1/5 1 小时以内 新手友好度 92/100
-
难度 2/5 1-3 小时 新手友好度 76/100
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 75/100
flutter-webrtc/flutter-webrtc#2206 ·
-
难度 2/5 1-3 小时 新手友好度 70/100
google-ai-edge/LiteRT-LM#3739 ·
-
Component: GLib
难度 2/5 1-3 小时 新手友好度 70/100
-
Mute ydb/tests/functional/dstool/test_canonical_requests.py.Test.test_group_take_snapshot in main 未关闭ai_reviewed
难度 2/5 1-3 小时 新手友好度 70/100
ydb-platform/ydb#53974 · 3 条评论 ·
-
难度 2/5 1-3 小时 新手友好度 70/100
google/libultrahdr#485 ·