Error when input file is longer than 5min
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- cpp
- Lĩnh vực
- audio-video-rtc
Hướng nghiên cứu
Bắt đầu với entry point transcribe của parakeet-cli và tái hiện sự khác biệt giữa đầu vào 5 phút đang hoạt động và đầu vào 10 phút bị lỗi bằng các lệnh trong issue. Kiểm tra đường dẫn cấp phát và tính toán Vulkan xung quanh các lỗi ggml_gallocr và Backend::compute đã được báo cáo. Được xem là hoàn tất khi âm thanh dài hơn không còn làm cạn bộ nhớ thiết bị hoặc gây ra segfault, đồng thời vẫn giữ nguyên đầu ra phiên âm.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Transcription with parakeet is working ok with small files, but with files a longer than 5min it gives the following error: ErrorOutOfDeviceMemory.
I'm using the vulkan version.
Steps to reproduce
I have a 2hr+ recording that want to transcribe, gives error and did try with 10min, like this:
$ ffmpeg -t 00:10:00 -i in.wav -c copy p1.wav
$ ffprobe p1.wav
Input #0, wav, from 'p1.wav':
Metadata:
encoder : Lavf62.12.102
Duration: 00:10:00.00, bitrate: 705 kb/s
Stream #0:0: Audio: pcm_s16le ([1][0][0][0] / 0x0001), 44100 Hz, 1 channels, s16, 705 kb/s
$ parakeet-cli transcribe --model $HOME/00_M/tdt-0.6b-v3-q4_k.gguf --input p1.wav --json > out.json
ggml_vulkan: Found 1 Vulkan devices:
ggml_vulkan: 0 = NVIDIA GeForce GTX 1660 SUPER (NVIDIA) | uma: 0 | fp16: 1 | bf16: 0 | warp size: 32 | shared memory: 49152 | int dot: 1 | matrix cores: none
[parakeet] pk::Backend using device: Vulkan0
ggml_vulkan: Device memory allocation of size 900240064 failed.
ggml_vulkan: vk::Device::allocateMemory: ErrorOutOfDeviceMemory
ggml_gallocr_reserve_n_impl: failed to allocate Vulkan0 buffer of size 16698365856
[parakeet] Backend::compute: ggml_gallocr_alloc_graph failed
Segmentation fault (core dumped) parakeet-cli transcribe --model $HOME/00_M/tdt-0.6b-v3-q4_k.gguf --input p1.wav --json > out.json
- I also did try the pipe example with
ffmpeg, gives same error. - If I do the same, but with 5min, works.
- I can do the the full 2hr+ audio with Whisper without any problem, but I'm trying
parakeetnow, because is faster. - I can chop the audio in many 5 min files, but is more like a workaround than a solution, also gives problems to join subtitles.
- I did use frequently
llama.cppand sometimessd.cpp, if it counts as experience. - My system is updated.
System
distro: Arch Linux x86_64
kernel: 6.18.25-1-lts
cpu: Intel i7-4790 (8) @ 3.600GHz
ram: 32 GB
gpu: NVIDIA GeForce GTX 1660 SUPER (6GB VRAM)
- Ngôn ngữ chính
- C++
- Star
- 844
- Fork
- 103
- Merge trung bình
- 8 giờ 27 phút
- Pull request đã merge (30 ngày)
- 26
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Không có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của mudler/parakeet.cpp
-
Mention parakeet-ffm in READMECó thể đã có người làm @localai-org-maint-bot đã nhận 4 ngày trước. Đang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 72/100
mudler/parakeet.cpp#99 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100
mudler/parakeet.cpp#68 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100
mudler/parakeet.cpp#62 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100
mudler/parakeet.cpp#61 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Real streaming from a micCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 48/100
mudler/parakeet.cpp#60 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của mudler/parakeet.cpp
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
nasa/fprime#6225 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
content good first issue
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 95/100
cpinitiative/usaco-guide#6699 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
git: need better push commandĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
codepointerapp/codepointer#231 ·
-
[Feature]: Windows 语音输入默认关闭Đang mởenhancement source/qq
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
metasequoiaime/msime-windows#1054 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
amnezia-vpn/amnezia-client#3297 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày