InternVideo2 distilled CLIP models give poor retrieval performance — are fine-tuned text encoder weights available?

未关闭

#317 创建于 2026年4月22日 0 条评论 0 个 reaction 已指派 0 人在 GitHub 查看

还没有人认领这个 Issue。

评估

难度: 5/5
预计耗时: 一周以上
新手友好度: 25/100

Issue 类型: 功能
描述清晰度: 需要澄清
活跃度: 冷清
领域: machine-learning

调研方向

从 InternVideo2 蒸馏模型说明开始，并比较其中引用的 Hugging Face 检查点，包括 mobileclip_blt.pt 和 InternVideo2_CLIP_S。当维护者确认是否存在经过微调的 S14 和 B14 文本编码器检查点，并在可能的情况下发布它们时，该 issue 即可解决。

由索引模型根据 Issue 内容生成。

描述

Hello,

I've been testing the InternVideo2 distilled CLIP models for zero-shot text-to-video retrieval and found that clip/S14, clip/B14, and clip/L14 from https://huggingface.co/OpenGVLab/InternVideo2_distillation_models/tree/main/clip give surprisingly poor results.

I'm aware that the distillation checkpoints are deltas that need to be applied on top of the
corresponding stage2 backbone weights — I'm loading them that way. The issue seems to be on the text encoder side: the instructions pair
them with mobileclip_blt.pt, but I suspect this may be the original base weights rather than the text encoder fine-tuned during CLIP
contrastive training.

For clip/L14, I noticed that https://huggingface.co/OpenGVLab/InternVideo2_CLIP_S is self-contained and includes text encoder weights,
which suggests a fine-tuned text encoder does exist for at least the L14 variant.

Could you confirm whether fine-tuned text encoder checkpoints exist for S14 and B14, and if so, whether they could be released?

Thanks for the great work on InternVideo2!

主要语言: Python
星标: 2.4k
派生: 160
PR 合并指标: 30 天内没有已合并 PR

贡献指南

这个仓库没有索引到贡献指南

从这里开始

先读完整个 Issue，再读项目的贡献指南。
在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
Fork 仓库，在一个分支上完成修改。
提交 Pull Request，并在描述里引用这个 Issue 编号。

OpenGVLab/InternVideo 的其他 Issue

Rights Holder Removal Request — Wild Adventure Girls Works in InternVid 未关闭

难度 5/5 一周以上新手友好度 25/100

OpenGVLab/InternVideo#324 · 1 条评论 · 2026年7月26日创建
InternVideo2 stage-1 weights 未关闭

难度 5/5 一周以上新手友好度 20/100

OpenGVLab/InternVideo#323 · 2026年7月10日创建
Request to release multimodal finetuning for Internvideo3 未关闭

难度 5/5 一周以上新手友好度 25/100

OpenGVLab/InternVideo#322 · 2026年7月1日创建
Fine-tuning on SSV2 with official 1B_ft_ssv2_f8.pth weights yields only ~2.78% Top-1 accuracy, loss barely decreases 未关闭

难度 4/5 3-5 天新手友好度 42/100

OpenGVLab/InternVideo#321 · 2026年6月24日创建
Consider using pre-built Flash Attention kernels via `kernels` 未关闭

难度 4/5 3-5 天新手友好度 35/100

OpenGVLab/InternVideo#319 · 1 条评论 · 2026年5月28日创建

查看 OpenGVLab/InternVideo 的全部 Issue

相似的 Issue

issue: imported chats all show as unread in the sidebar 未关闭

bug confirmed issue

难度 2/5 1-3 小时新手友好度 75/100

open-webui/open-webui#30750 · 1 条评论 · 2026年9月24日创建
OGS AmBe example has no source.timing block, so every event sits at time zero 未关闭

难度 2/5 1-3 小时新手友好度 75/100

lanl/ScintiPix#61 · 2026年9月24日创建
Make Liquid Glass the default theme for the Research build 未关闭

enhancement

难度 2/5 1-3 小时新手友好度 75/100

OpenwaterHealth/openmotion-bloodflow-app#604 · 1 条评论 · 2026年9月24日创建
tests/puppeteer/test_openai_api_key_ui.js targets controls that do not exist and is run by no workflow 未关闭

难度 2/5 1-3 小时新手友好度 70/100

LearningCircuit/local-deep-research#6766 · 2026年9月23日创建
Delete unused args argument from main() in Python files 未关闭

good first issue

难度 1/5 1 小时以内新手友好度 90/100

ros2/launch#1014 · 2026年9月23日创建

更多 Python Issue