Support for Phi-3 models

仓库指标

星标

124,134 个星标 (124,134 个星标)

PR 合并指标

平均合并 6天 8小时 (平均合并 6天 8小时)30 天内合并 389 个 PR (30 天内合并 389 个 PR)

描述

贡献者指南

研究方向

查看 llama.cpp 中现有的模型实现（例如 examples/llama.cpp），以了解添加新架构的模式。研究微软发布的 Phi 3 模型架构。查看此 issue 中的评论，寻找维护者提供的任何部分实现或提示。查看 examples/convert*.py 中的模型转换脚本。

技术栈

cpp

领域

machine learning

议题类型

功能

难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。

4

预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。

超过 1 周

活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。

活跃

清晰度议题是否清楚说明期望改动、验收标准和下一步。

清晰

前置要求

Phi 3 model architectureC++ programmingllama.cpp codebase

新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。

25