Voice turn-taking that does not cut you off
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 30/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- python
- Lĩnh vực
- audio-video-rtc, backend, frontend
Hướng nghiên cứu
Start with the end-of-turn logic in sentient/voice/vad.py and the vad_silence_ms setting in the voice section of sentient/config/schema.py, then trace how sentient/voice/session.py handles barge_in over /ws/voice in sentient/voice/socket.py. Done means pauses shorter than the configured silence keep the turn open, Sentient's own audio does not trigger barge-in, and a per-turn latency value is shown in desktop/src/features/voice/. Scope spans several subsystems and is a bundle of six ideas, so confirm with maintainers which item to take first.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Voice failures are turn-taking failures. Alexa+ treats normal pauses as the end of a turn. Practitioners target under 800 ms end to end and find "not listening" worse than talking over the user. Gemini's redesigned mic "doesn't cut you off mid-thought", and Hermes added streaming STT.
Idea:
- a tunable end-of-turn silence
- echo cancellation so Sentient's own audio does not trigger barge-in
- filtering of backchannels like "mhm"
- streaming transcription
- a latency readout per turn
- typing and talking switch seamlessly in the same thread
Status in Sentient today: Partial. VAD with vad_silence_ms and interruptible /ws/voice with barge_in exist.
Where: sentient/voice/vad.py, sentient/voice/session.py, sentient/voice/stt.py, sentient/voice/socket.py, the voice section of sentient/config/schema.py, and desktop/src/features/voice/.
Done when:
- pauses shorter than the setting do not end the turn
- Sentient's own speech does not trigger barge-in
- backchannels do not interrupt
- latency is shown per turn
Sources:
- https://www.fortune.com/2025/07/26/amazon-alexa-plus-ai-agent-voice-assistant-hands-on-review-compared-chatgpt
- https://picovoice.ai/guide/voice-agents/voice-ux-latency-turn-taking/
- https://blog.google/innovation-and-ai/products/gemini-app/next-evolution-gemini-app/
- https://github.com/NousResearch/hermes-agent/releases
Roadmap ID: VOICE-1 · Priority: P1 · Size: M
- Ngôn ngữ chính
- Python
- Star
- 702
- Fork
- 113
- Merge trung bình
- 5 giờ 6 phút
- Pull request đã merge (30 ngày)
- 172
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của existence-master/Sentient
-
Telegram/Discord: tapping "Local only" in the /model list should ask too, and "/model Local only no" should cancelCó thể đã có người làm @bernalalexis-try đã nhận hôm nay. Đang mởarea: channels enhancement good first issue priority: P2 size: S
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
existence-master/Sentient#457 · 2 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area: desktop bug good first issue priority: P2 size: S
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
existence-master/Sentient#454 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area: desktop bug priority: P2 size: S
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
existence-master/Sentient#440 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area: desktop bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
existence-master/Sentient#426 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area: memory bug flaky
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
existence-master/Sentient#422 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của existence-master/Sentient
Issue tương tự
-
idxmax/idxmin raise ValueError when a single partition is all-NACó thể đã có người làm @Jason10191019999 đã nhận hôm nay. Đang mởneeds triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 3 ngày
-
Old versions of datamodelsĐang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 64/100
-
[BUG]: Windows GUI package of v1.17.0-rc3 has no GTK DLLsCó thể đã có người làm @andrut-ds đã nhận hôm nay. Đang mởbug CI/CD Pactus-GUI Windows
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
pactus-project/pactus#2428 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
DiskDataset.reshard() can hang with a zero or negative shard sizeCó thể đã có người làm @Programmer-Develops đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 19 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
GNS3/gns3-server#3017 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày