Allow running multiple `art.LocalBackend` sessions on different processes
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 42/100
- Issue 类型
- 缺陷
- 描述清晰度
- 基本清楚
- 活跃度
- 停滞
- 技术栈
- python
调研方向
从 LocalBackend 的实现开始，重点关注 in_process=False 的启动和清理路径，该路径会运行 pkill -9 model-service。使用专用 session 重现两个独立进程，然后验证停止或启动一个 session 不会终止另一个，并且两次训练运行会继续独立进行。
由索引模型根据 Issue 内容生成。
描述
Currently it's impossible to launch several LocalBackend(in_process=False) sessions simultaneously on different processes.
The current implementation of the LocalBackend performs: "pkill -9 model-service" which kills the "model-service" systemwide. As result, if I launched a LocalBackend session on the first process and started training, and then on another process I launch another LocalBackend session, it kills the run of the first session.
My use case is that I run several training scripts which all launch a LocalBackend automatically, each with their own model and setup, each with their dedicated GPUs.
Also, given the recent improvements made to closing LocalBackend (see #126), is running "pkill -9 model-service" even still necessary?
Note: it's possible to launch several sessions of LocalBackend(in_process=True) but at that case they suffer from performance penalties, since Unsloth optimizations are not applied (i.e 2-3x slowdown compared to LocalBackend(in_process=False)).
- 主要语言
- Python
- 星标
- 10.8k
- 派生
- 989
- 平均合并
- 11 小时 53 分钟
- 30 天内合并 PR
- 97
贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
OpenPipe/ART 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 72/100
-
难度 5/5 一周以上 新手友好度 25/100
-
难度 5/5 一周以上 新手友好度 10/100
-
难度 5/5 一周以上 新手友好度 42/100
-
enhancement
难度 4/5 3-5 天 新手友好度 48/100
相似的 Issue
-
agent-ready documentation needs-triage
难度 1/5 1-3 小时 新手友好度 88/100
-
documentation
难度 1/5 1 小时以内 新手友好度 91/100
-
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" 未关闭
难度 1/5 1 小时以内 新手友好度 92/100
-
instance instance add
难度 1/5 1 小时以内 新手友好度 72/100
searxng/searx-instances#939 · 1 条评论 ·
-
area-deployment area-integrations triage:bot-seen
难度 2/5 半天 新手友好度 86/100