[idea] Docker 07/14: llama.cpp in the image
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 55/100
- issue の種類
- 機能追加
- 明瞭さ
- 明確に書かれている
- 活発さ
- 活発
- 技術スタック
- docker, javascript
調査の方向性
This is step 7 of the Docker work and depends on #2106, so wait for that issue to merge before starting. Read the linked Docker proposal and surfsense_local/electron/scripts/fetch-llamacpp.mjs, then inspect the Dockerfile and headless context. Done means the image supports local CPU chat, model changes restart llama-server through the preset watcher, and the fit estimate reports container memory.
索引モデルが issue の本文から書いたものです。
説明
Which part? Desktop app
What would you like?
Step 7 of 14 of #2100: running SurfSense in Docker. Depends on #2106; start once it is merged.
Local chat models in Docker, on the CPU.
Design: Docker proposal, The image
What to change
- Extend
surfsense_local/electron/scripts/fetch-llamacpp.mjswith the Linux CPU builds (bin-ubuntu-x64,bin-ubuntu-arm64) at the pinned build. - A
runtimesstage in the Dockerfile that runs it into/app/runtimes/llamacpp/. - The headless context sets the llama.cpp variables (
SURFSENSE_LOCAL_LLAMACPP_*), so the preset watcher and the fit probe work.
Done when
- Download a curated chat model in the app and chat with it locally.
- Changing the selection restarts llama-server through the preset watcher.
- The fit estimate reports the container's memory.
Scope: code and tests only. Don't edit docs/ or AGENTS.md, except to fix a link this change breaks; the maintainers update the docs when the Docker work ships.
Why would it help?
Each step leaves something that runs, so the Docker image is built and reviewed one piece at a time.
- 主要言語
- Python
- スター
- 16.3k
- フォーク
- 1.6k
- 平均マージ
- 13時間 35分
- マージ済み PR（30日）
- 267
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
MODSetter/SurfSense のほかの issue
-
Security Scan: stop flagging pinned hashes and test fixtures on release PRs対応中かも @karthikeya1220 が 2 日前に担当しました。 オープンcode quality security
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
MODSetter/SurfSense#2225 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Check Apple notarization credentials on dry runs and weekly対応中かも @Cedric921 が 2 日前に担当しました。 オープンdesktop
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
MODSetter/SurfSense#2224 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Release workflow: keep the macOS certificate off the Windows dry-run build対応中かも @Cedric921 が 2 日前に担当しました。 オープンdesktop security
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
MODSetter/SurfSense#2223 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Write the ADR for chat modes対応中かも @Cedric921 が 2 日前に担当しました。 オープンarchitecture desktop documentation
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
MODSetter/SurfSense#2220 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 73/100
メンテナーはふだん 1 日以内に返信
MODSetter/SurfSense の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
ok-oldking/ok-wuthering-waves#1785 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
healthchecks/healthchecks#1349 ·
-
deployment release-lag
難易度 1/5 1時間未満 初心者へのやさしさ 68/100
nolte/kamerplanter#2374 ·
メンテナーはふだん 1 日以内に返信
-
bug v1 v2
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
modelcontextprotocol/python-sdk#3725 ·
メンテナーはふだん 1 日以内に返信
-
batchterms() drops queries without a similar() clause, misaligning results with inputs対応中かも @MohammadHijjawi97 が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100
メンテナーはふだん 1 日以内に返信