Refactor profiles scraper to use API
評価
この issue はまだ評価されていません。
説明
Overview
Refactor the profile scraper in scrapers/profiles.go to just pull data from the below API and create a parser/profiles.go file to parse that data into our preexisting format, maybe with more fields for more information if there is any.
Information from the Office of Research and Innovation that maintains UT Profiles:
Here's the documentation I created for the profiles.utdallas.edu API: https://documenter.getpostman.com/view/8354395/TzCHApzg . It's a public API. The one thing I would strongly suggest is to try to limit the scope of your calls so as to not overload our server. (Some faculty have thousands of publications, so grabbing all that data is quite intensive.) You might, for example, start by grabbing the list of profiles at https://profiles.utdallas.edu/api/v1, then loop through in chunks and pull something like
Alternatively, just loop through each of the schools (AHT, BBS, ECS, etc), like this:
https://profiles.utdallas.edu/api/v1?from_school=AHT&with_data=1&data_type=information;areas
Note
Recommend that 2 people working on this issue:
- One will work on the calling the API to get the raw data.
- Another one will work on parsing the data and setting up connection with courses and sections
- 主要言語
- Go
- スター
- 12
- フォーク
- 54
- 平均マージ
- 2分
- マージ済み PR（30日）
- 1
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
UTDNebula/api-tools のほかの issue
-
Improve unit tests in sectionParser_test.go対応中かも @Sidd-Pelluru が 21 日前に担当しました。 オープンL1 recommended for recruits
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
-
Improve unit tests in discountsParser_test.go対応中かも @LikithInam が 8 日前に担当しました。 オープンL1 recommended for recruits
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
-
L1 recommended for recruits
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
-
Comet Calendar events with multiple locations対応中かも @azythromycin が 2 日前に担当しました。 オープンL1 Type: Bug Report
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
-
Improve output in events.go対応中かも @DennisOrtin が 12 日前に担当しました。 オープンL1 recommended for recruits
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
UTDNebula/api-tools の issue をすべて見る
似ている issue
-
Named Tuple element with a space in its name fails to parse対応中かも @spicysharkco が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
ClickHouse/clickhouse-go#2073 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
-
ci: nothing regenerates the Go contract types, so a hand-edit to types.gen.go passes対応中かも @shaiknoorullah が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
shaiknoorullah/hg-mono#993 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
type:bug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
CarlosDanielDev/aiacc#78 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100