feat(android): add streamed and live transcription with word timings

Abierto
#363 1 comentario 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
kotlin, typescript
Área
mobile-dev

Línea de trabajo

Start in the @react-native-ai/android package: read the existing AudioSource.fromFile transcription path, then the ML Kit genai-speech-recognition docs for fromMic/fromPfd and enableWordTiming. Design how streamed PCM chunks and a live microphone API would map onto experimental_streamTranscribe and Apple's transcribeLive shape. Note the issue itself flags that en-US is unavailable on the only test device, so testing needs another device — done means streaming and live transcription producing segments from word timings.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Blocked enhancement

@react-native-ai/android transcribes whole files with AudioSource.fromFile. ML Kit's speech recognition (genai-speech-recognition 1.0.0-alpha2) also takes AudioSource.fromMic() and fromPfd (16 kHz mono 16-bit PCM), with partial results and word timings (recognitionOptions { enableWordTiming = true }), which only work with streamed sources.

These could back experimental_streamTranscribe (PCM chunks) and a live microphone API like Apple's transcribeLive, with segments from the word timings.

Note: on the test Pixel 9 Pro (AICore aicore_20260219), checkStatus reports en-US unavailable in both basic and advanced mode, so this needs another device to test.

Lenguaje dominante
TypeScript
Estrellas
1.4k
Forks
64
Merge medio
11 h 24 min
PR fusionados (30 d)
91

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de callstackincubator/ai

Todos los issues de callstackincubator/ai

Issues similares

Más issues de TypeScript

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.