Local models: results and profiles per hardware class

オープン 初心者向け
#3 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
66/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
活発
技術スタック
ollama, typescript

調査の方向性

まず、キャリブレーションの実行とプロファイルの提出に関するリポジトリの手順を確認してください。issueでは特定のファイルやテストは指定されていません。記載されているランタイムのいずれかを使ってローカルモデルを実行し、チップ、メモリ、ランタイム、量子化を含むハードウェア情報を記録してください。これらの詳細とキャリブレーション結果を含むプロファイルを共有すれば完了です。

索引モデルが issue の本文から書いたものです。

説明

hardware help wanted

Calibrate a local model (Ollama, llama.cpp, MLX, LM Studio, vLLM) and share a profile with the hardware block filled in (chip, memory, runtime, quantisation). The first honest local result we have is a 3B model that passes none of the tasks; better and bigger local models are wanted, and so are results from other chips.

主要言語
TypeScript
スター
1
フォーク
0
PR マージ指標
30日以内にマージされた PR はありません

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apex-context-dev/apex-engine のほかの issue

apex-context-dev/apex-engine の issue をすべて見る

似ている issue

TypeScript の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。