Register the native cinterop kernels on Apple targets in the runtime facades
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
Read the existing registerPlatformBackends actuals in llm-runtime/kllama and llm-runtime/kgemma, then compare the Android wiring from #285. Add Apple source set dependencies and register native kernels as described; update the README target matrix. Verify with the cross-target SmolLm2InferenceSpike on iosSimulatorArm64Test on macOS after the Apple klibs are published; done means the facade installs kernels and the documented direct-consumer path is clear.
索引モデルが issue の本文から書いたものです。
説明
Apple half of the mobile-kernels story (engine SKaiNET#920 / #959; the Android half landed via #285). Engine develop now publishes skainet-backend-native-cpu for iosArm64 / iosSimulatorArm64 / macosArm64 (engine PR #962) with the kernel archives embedded in the klibs and runtime FEAT_DotProd dispatch (engine #958: A13+/M-series fast path, A12 scalar-int fallback — one archive, no SIGILL).
Registration on Kotlin/Native is manual (no ServiceLoader): a consumer calls installNativeKernels() once at startup. Today no transformers module does, so Apple K/N consumers of the runtime facades run packed-quant matmul on the scalar floor — the field report's 0.11 tok/s iOS simulator number.
Plan (mirrors the Android JNI wiring from #285):
llm-runtime/kllama+llm-runtime/kgemma: addsk.ainet.core:skainet-backend-native-cputo the Apple source sets and callinstallNativeKernels()from the existingregisterPlatformBackendsactual (kllama'ssrc/iosMainhas exactly this seam — it was dead code before #274 added the targets).- README target-matrix note (Apple gets native packed-quant kernels through the facades out of the box; direct
inference-llamaconsumers callinstallNativeKernels()themselves). - Numbers: run the existing cross-target
SmolLm2InferenceSpikeoniosSimulatorArm64Test(SIMCTL_CHILD_ env forwarding is already wired) on a macOS host, and physical-device numbers via the field-report author's standing test offer — A13+ fast arm; A12 no-SIGILL check if an XS/XR is available.
Blocked on: the next engine release publishing the Apple klibs to Maven Central (engine #964 adds the release plumbing). Until then the wiring can only be compile-verified on a macOS host via the composite build — this box (Linux) cannot build the engine's Apple cinterop.
- 主要言語
- Kotlin
- スター
- 8
- フォーク
- 3
- 平均マージ
- 1日 16時間
- マージ済み PR（30日）
- 48
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
SKaiNET-developers/SKaiNET-transformers のほかの issue
-
documentation good first issue size:xs skill:docs sub-issue
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
SKaiNET-developers/SKaiNET-transformers#478 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
enhancement skill:kotlin-core
難易度 4/5 3〜5日 初心者へのやさしさ 48/100
SKaiNET-developers/SKaiNET-transformers#502 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 4/5 3〜5日 初心者へのやさしさ 48/100
SKaiNET-developers/SKaiNET-transformers#483 ·
メンテナーはふだん 1 日以内に返信
-
coding good first issue size:s skill:kotlin-core sub-issue
難易度 4/5 1〜2日 初心者へのやさしさ 64/100
SKaiNET-developers/SKaiNET-transformers#477 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
coding good first issue size:s skill:numerics sub-issue
難易度 4/5 3〜5日 初心者へのやさしさ 55/100
SKaiNET-developers/SKaiNET-transformers#476 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
SKaiNET-developers/SKaiNET-transformers の issue をすべて見る
似ている issue
-
Messages: Subscribe to the new communication websocket topics対応中かも @krusche が今日担当しました。 オープンbug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
ls1intum/artemis-android#801 ·
メンテナーはふだん 1 日以内に返信
-
Bug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
keiyoushi/extensions-source#20362 ·
メンテナーはふだん 1 日以内に返信
-
enhancement good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
-
enhancement good first issue
難易度 1/5 1〜3時間 初心者へのやさしさ 85/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
software-mansion/enriched-markdown#1084 ·
メンテナーはふだん 2 日以内に返信