Refactor profiles scraper to use API
Đánh giá
Issue này chưa được đánh giá.
Mô tả
Overview
Refactor the profile scraper in scrapers/profiles.go to just pull data from the below API and create a parser/profiles.go file to parse that data into our preexisting format, maybe with more fields for more information if there is any.
Information from the Office of Research and Innovation that maintains UT Profiles:
Here's the documentation I created for the profiles.utdallas.edu API: https://documenter.getpostman.com/view/8354395/TzCHApzg . It's a public API. The one thing I would strongly suggest is to try to limit the scope of your calls so as to not overload our server. (Some faculty have thousands of publications, so grabbing all that data is quite intensive.) You might, for example, start by grabbing the list of profiles at https://profiles.utdallas.edu/api/v1, then loop through in chunks and pull something like
Alternatively, just loop through each of the schools (AHT, BBS, ECS, etc), like this:
https://profiles.utdallas.edu/api/v1?from_school=AHT&with_data=1&data_type=information;areas
Note
Recommend that 2 people working on this issue:
- One will work on the calling the API to get the raw data.
- Another one will work on parsing the data and setting up connection with courses and sections
- Ngôn ngữ chính
- Go
- Star
- 12
- Fork
- 54
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của UTDNebula/api-tools
-
Improve unit tests in sectionParser_test.goCó thể làm lại được @Sidd-Pelluru đã nhận 30 ngày trước và không có pull request nào đang mở. Đang mởL1 recommended for recruits
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
-
Improve unit tests in discountsParser_test.goCó thể đã có người làm @LikithInam đã nhận 17 ngày trước. Đang mởL1 recommended for recruits
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
-
L1 recommended for recruits
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
-
Comet Calendar events with multiple locationsCó thể đã có người làm @azythromycin đã nhận 11 ngày trước. Đang mởL1 Type: Bug Report
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
-
Improve output in events.goCó thể đã có người làm @DennisOrtin đã nhận 21 ngày trước. Đang mởL1 recommended for recruits
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
Tất cả issue của UTDNebula/api-tools
Issue tương tự
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 61/100
Maintainer thường phản hồi trong vòng 1 ngày
-
stage-fail
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 72/100
siyuan-note/bazaar#2405 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug priority: high workstream:cache
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
rossoctl/context-guru#707 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 73/100
prime-radiant-inc/evener#5028 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
Maintainer thường phản hồi trong vòng 1 ngày