官方demo运行正常，本地运行跟个傻子一样，请问怎么回事？
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- cpp
- Área
- machine-learning
Línea de trabajo
Comienza reproduciendo la diferencia informada entre la demo oficial y la ejecución local usando los modelos 1B, 2B, 3B, 7B y 10B indicados. Lee las instrucciones de inferencia local del repositorio y compara la configuración local con la demo; el trabajo estará terminado cuando se identifique una causa reproducible o se documenten los detalles del entorno que faltan para explicar las respuestas deficientes.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
测试了 1B 3B 7B 10B 和 基础模型 2B 回答都不好。
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"地球与月球的平均距离约为238,000千米。","role":"assistant"}}],"created":1773824825,"model":"gpt-3.5-turbo-0613","object":"chat.completion","usage":{"completion_tokens":26,"prompt_tokens":127,"total_tokens":153},"id":"chatcmpl-bZVssHWGmXJxuvEmjJU4F3Nm8In8Q4xd"}
- Lenguaje dominante
- C++
- Estrellas
- 40.3k
- Forks
- 3.7k
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de microsoft/BitNet
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
-
i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
Todos los issues de microsoft/BitNet
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
flutter-webrtc/flutter-webrtc#2206 ·
-
litertlm-android AAR ships no consumer ProGuard rules → "mid == null" SIGABRT in minified apps Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
google-ai-edge/LiteRT-LM#3739 ·
-
Component: GLib
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
Mute ydb/tests/functional/dstool/test_canonical_requests.py.Test.test_group_take_snapshot in main Abiertoai_reviewed
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
ydb-platform/ydb#53974 · 3 comentarios ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
google/libultrahdr#485 ·