Port GLiNER2.5 (fastino/gliner2.5-multi-v1) zero-shot NER to vllm.cpp
维护者通常 1 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 5/5
- 预计耗时
- 一周以上
- 新手友好度
- 25/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 活跃
- 技术栈
- cpp
调研方向
从 .agents/specs/gliner2.5.md 开始，将所需的 DeBERTa v2 encoder 和 GLiNER2 pooler 组件与 vllm-factory 参考 oracle 进行比较。然后跟踪模型注册、兼容 OpenAI 的 serving 和 LocalAI backend；完成的标准是支持所列出的 CPU、CUDA、ROCm、serving 和注册范围。
由索引模型根据 Issue 内容生成。
描述
Port the GLiNER2.5 model (DeBERTa v2 encoder + disentangled attention + GLiNER2 pooler head) into vllm.cpp as the first encoder-only (BERT-class) model. vLLM has no DeBERTa support; the vllm-factory plugin (ddickmann/vllm-factory) is the reference oracle.
Scope: DeBERTa v2 encoder, GLiNER2 pooler head (SpanRep, CountLSTM, classifier), model registration, OpenAI-compatible serving, CPU + GPU (CUDA + ROCm) support, LocalAI backend.
Local issue: ISSUE-LOCAL-01M2TMQF230HKCX03RW6ADCVCT
Row: MODEL-GLINER25
Spec: .agents/specs/gliner2.5.md
- 主要语言
- C++
- 星标
- 423
- 派生
- 53
- 平均合并
- 1 天 7 小时
- 30 天内合并 PR
- 380
环境准备
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
mudler/vllm.cpp 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 82/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 88/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 84/100
维护者通常 1 天内回复
相似的 Issue
-
bug
难度 1/5 1-3 小时 新手友好度 88/100
维护者通常 2 天内回复
-
Unconfirmed bug
难度 1/5 1 小时以内 新手友好度 88/100
luanti-org/luanti#17605 · 1 条评论 ·
维护者通常 2 天内回复
-
area: config area: firmware priority: P2 - medium size: S type: bug
难度 2/5 1-3 小时 新手友好度 76/100
Mizithra/ActiveTerrain#16 ·
-
难度 2/5 1-3 小时 新手友好度 84/100
grumpycoders/pcsx-redux#2171 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 2 天内回复