Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

Register the native cinterop kernels on Apple targets in the runtime facades

Abierto
  • ¿Algo no está bien?
#298 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
43/100
Tipo de issue
Nueva funcionalidad
Claridad
Bien especificado
Estado de actividad
Tranquilo
Stack tecnológico
kotlin
Área
backend

Línea de trabajo

Read the existing registerPlatformBackends actuals in llm-runtime/kllama and llm-runtime/kgemma, then compare the Android wiring from #285. Add Apple source set dependencies and register native kernels as described; update the README target matrix. Verify with the cross-target SmolLm2InferenceSpike on iosSimulatorArm64Test on macOS after the Apple klibs are published; done means the facade installs kernels and the documented direct-consumer path is clear.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Apple half of the mobile-kernels story (engine SKaiNET#920 / #959; the Android half landed via #285). Engine develop now publishes skainet-backend-native-cpu for iosArm64 / iosSimulatorArm64 / macosArm64 (engine PR #962) with the kernel archives embedded in the klibs and runtime FEAT_DotProd dispatch (engine #958: A13+/M-series fast path, A12 scalar-int fallback — one archive, no SIGILL).

Registration on Kotlin/Native is manual (no ServiceLoader): a consumer calls installNativeKernels() once at startup. Today no transformers module does, so Apple K/N consumers of the runtime facades run packed-quant matmul on the scalar floor — the field report's 0.11 tok/s iOS simulator number.

Plan (mirrors the Android JNI wiring from #285):

  1. llm-runtime/kllama + llm-runtime/kgemma: add sk.ainet.core:skainet-backend-native-cpu to the Apple source sets and call installNativeKernels() from the existing registerPlatformBackends actual (kllama's src/iosMain has exactly this seam — it was dead code before #274 added the targets).
  2. README target-matrix note (Apple gets native packed-quant kernels through the facades out of the box; direct inference-llama consumers call installNativeKernels() themselves).
  3. Numbers: run the existing cross-target SmolLm2InferenceSpike on iosSimulatorArm64Test (SIMCTL_CHILD_ env forwarding is already wired) on a macOS host, and physical-device numbers via the field-report author's standing test offer — A13+ fast arm; A12 no-SIGILL check if an XS/XR is available.

Blocked on: the next engine release publishing the Apple klibs to Maven Central (engine #964 adds the release plumbing). Until then the wiring can only be compile-verified on a macOS host via the composite build — this box (Linux) cannot build the engine's Apple cinterop.

Lenguaje dominante
Kotlin
Estrellas
8
Forks
3
Merge medio
1 d 16 h
PR fusionados (30 d)
48

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de SKaiNET-developers/SKaiNET-transformers

Todos los issues de SKaiNET-developers/SKaiNET-transformers

Issues similares

Más issues de Kotlin

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.