long wait times for first run of `@map` and secondary problem of REPL hanging.
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 48/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- julia
- Lĩnh vực
- data, performance
Hướng nghiên cứu
Tải symp.dat xuống và tái hiện ví dụ bằng DataFrames, CSV và Query với f(dt) và @map(mean(_)). Đo riêng lần chạy @map ban đầu với việc REPL in kết quả truy vấn gồm 250 phần tử. Hoàn thành có nghĩa là xác định và xử lý độ trễ được báo cáo ở lần chạy đầu tiên cũng như hiện tượng REPL bị treo sau khi đo thời gian, để ví dụ không còn xuất hiện những khoảng chờ đó.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
I can only reproduce this with my data file which is hosted on github link. It's not a large file (270kb, 250 rows by 500 columns) of integer data, delimited by tab. Please download this file and save as symp.dat (or alter the code below accordingly).
using DataFrames
using Statistics
using Query
using Base.Filesystem
using CSV
headers = ["sim$i" for i = 1:500]
dt = CSV.File("symp.dat", delim='\t', header=headers) |> DataFrame
dt.time = 1:250 ## add a time column for `melt` purposes
f(g) = g |> @map(mean(_))
@time f(dt)
Output:
julia> @time f(dt)
31.975361 seconds (7.63 M allocations: 415.528 MiB, 0.84% gc time)
And then the REPL hangs. It hangs for about 2 minutes! before it finishes printing the 250-element query result.
julia> @time f(dt)
31.190349 seconds (7.64 M allocations: 416.400 MiB, 0.94% gc time)
250-element query result
0.249501
0.265469
0.0838323
0.237525
0.323353
0.359281
0.457086
0.566866
0.798403
1.06587
... with 240 more elements
In summary:
- First run takes about 35 seconds even when
@mapis in a function (maybe this has to something with the fact thatdtis global?) - The REPL hangs for about 2 minutes after the
@timemacro prints its information. It seems to me it takes a long time to "collect" the results of the query and display it back in the REPL.
Version info:
julia> versioninfo()
Julia Version 1.0.0
Commit 5d4eaca0c9 (2018-08-08 20:58 UTC)
Platform Info:
OS: macOS (x86_64-apple-darwin14.5.0)
CPU: Intel(R) Core(TM) i7-3615QM CPU @ 2.30GHz
WORD_SIZE: 64
LIBM: libopenlibm
LLVM: libLLVM-6.0.0 (ORCJIT, ivybridge)
- Ngôn ngữ chính
- Julia
- Star
- 404
- Fork
- 48
- Merge trung bình
- 6 giờ 38 phút
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của queryverse/Query.jl
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
queryverse/Query.jl#341 ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
queryverse/Query.jl#332 · 1 reaction ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 30/100
queryverse/Query.jl#331 · 1 reaction ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 25/100
queryverse/Query.jl#330 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100
queryverse/Query.jl#328 ·
Tất cả issue của queryverse/Query.jl
Issue tương tự
-
Add more snippets to R and JuliaĐang mởenhancement good first issue help wanted
Độ khó 2/5 Nửa ngày Mức phù hợp với người mới 82/100
-
authority-vechtstromen ready-for-agent
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 75/100
Deltares/Ribasim-NL#890 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Precompilation fails on Julia 1.14 nightly: HessenbergQ lmul! methods overwrite LinearAlgebra'sĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
JuliaLinearAlgebra/GenericLinearAlgebra.jl#183 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
JuliaGPU/KernelAbstractions.jl#897 ·
Maintainer thường phản hồi trong vòng 1 ngày