Here are the current steps for builing BitNet.cpp for Raspberry Pi 5

Évaluation

Piste de recherche

Description

#!/bin/bash


# Flash the latest Rasbperry Pi OS Lite onto an 32GB+ SD card, and run it on a Pi 5. 
# Log in via SSH, a then:


# Prepare
sudo apt update
sudo apt install python3-pip python3-dev cmake build-essential git clang 
wget -O - https://apt.llvm.org/llvm.sh | sudo bash -s 18


# Get the working version of BitNet.cpp
git clone --recursive https://github.com/microsoft/BitNet.git
cd BitNet
git reset --hard 404980e
git pull



# An alternative command would be:
# git clone --recursive --revision=c1e9a9a237f847f8aac9f7015b756cf4faf66d0e --depth=1 https://github.com/microsoft/BitNet.git
# ..but the version of Git available on Raspberry Pi OS doesn't support --revision yet


# Create and activate a new conda environment with Python 3.9
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh
bash Miniconda3-latest-Linux-aarch64.sh
source ~/.bashrc
conda create -n bitnet-cpp python=3.9
conda activate bitnet-cpp


# Install Python dependencies
conda install "pip<21.0.2"
pip install -r requirements.txt




# Build BitNet.cpp
python utils/codegen_tl1.py --model bitnet_b1_58-3B --BM 160,320,320 --BK 64,128,64 --bm 32,64,32
export CC=clang-18 CXX=clang++-18
rm -rf build && mkdir build && cd build
cmake .. -DCMAKE_BUILD_TYPE=Release
make -j$(nproc)
cd ..


# Download the model
pip install huggingface_hub
hf download microsoft/BitNet-b1.58-2B-4T-gguf --local-dir models/BitNet-b1.58-2B-4T


# Test if everything works
python run_inference.py  -m "models/BitNet-b1.58-2B-4T/ggml-model-i2_s.gguf"  -p "You are a helpful assistant."  -cnv

Préparer son environnement

Par où commencer

1. Lisez l'issue en entier, puis le guide de contribution du projet.
2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
3. Forkez le dépôt et travaillez sur une branche.
4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de microsoft/BitNet

• ggml-cpu.c: `src1_cont` undeclared → build fails on ARM CPUs with i8mm (Apple M2/M3/M4, Graviton3, ...)

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 86/100

  microsoft/BitNet#618 · 2 commentaires · Ouverte le 5/9/2026

• i2_s SIGSEGVs at n_ubatch >= 32: BLAS backend dequantises by a row stride 4x the real packed row

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 76/100

  microsoft/BitNet#601 · 2 commentaires · Ouverte le 6/8/2026

• deosnt compile and run out of the box

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 86/100

  microsoft/BitNet#578 · 3 réactions · Ouverte le 28/6/2026

• Warning: `huggingface-cli` is deprecated and no longer works. Use `hf` instead.

  Peut-être pris @ousamabenyounes l’a pris il y a 60 jours. Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 1/5 Moins d'une heure Accessibilité débutants 92/100

  microsoft/BitNet#560 · 2 commentaires · Ouverte le 20/5/2026

• Windows Compilation Fails: CMake errors in setup_env and missing `const` in ggml-bitnet-mad

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 76/100

  microsoft/BitNet#513 · 3 commentaires · 1 réaction · Ouverte le 25/3/2026

Toutes les issues de microsoft/BitNet

Issues similaires

• [request] vsg/1.1.16

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler
  upstream update

  Difficulté 2/5 1-3 heures Accessibilité débutants 65/100

  conan-io/conan-center-index#31142 · Ouverte le 10/10/2026

  Les mainteneurs répondent en général sous 1 jour

• Input SEQNUMs of 2^32 - 1 or more all decode to one cell on Windows (sscanf %lu into 32-bit unsigned long)

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 72/100

  sahrk/DGGRID#107 · Ouverte le 10/10/2026

• Docs: on xe there is no SSD expert tier, and --spec 0 is refused for native packs, but the Intel docs and TROUBLESHOOTING say otherwise

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 72/100

  Niko1221/Strata#1796 · Ouverte le 10/10/2026

  Les mainteneurs répondent en général sous 1 jour

• build error: sjpeg: expression is always true (ppc32/musl/llvm)

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 2/5 1-3 heures Accessibilité débutants 72/100

  libjxl/libjxl#5017 · Ouverte le 10/10/2026

  Les mainteneurs répondent en général sous 1 jour

• Agent Skills: rtvi-cv-scaffold-vss-service declares compatibility inside metadata

  Ouverte

  ⋯Signaler un problème avec cette issue

  • Quelque chose ne va pas ?

  • Déjà prise
  • Pas adaptée aux débutants
  • Obsolète ou invalide
  • Autre chose…
  • Envoyer Annuler

  Difficulté 1/5 Moins d'une heure Accessibilité débutants 84/100

  NVIDIA/DeepStream#78 · Ouverte le 10/10/2026

Plus d'issues C++