[Feature] 增加provider开关,用于禁用Anthropic提示词缓存功能

Aperta
#11,246 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
58/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
python
Ambito
ai, backend

Direzione di ricerca

Start by locating where the Anthropic provider injects cache_control: ephemeral and how provider settings are exposed in the WebUI and configuration. Trace the existing provider options and their tests to identify the relevant entry points. Done means users can disable prompt caching through a configurable setting and the provider omits cache creation when it is disabled.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

enhancement open-for-contribution
功能描述

AstrBot 目前对 Anthropic Provider 默认启用 Prompt Caching(通过注入 cache_control: ephemeral),但部分用户(如使用第三方计费渠道或特定代理网关时)需要关闭缓存创建以避免额外费用或兼容性问题。目前 WebUI 和配置文件中均无相关开关,希望增加一个可配置项。

使用场景

· 某些第三方 Anthropic 兼容网关对 cache_control 字段支持不完整,出现无法进行缓存,请求异常的情况。
· 需要在调试或对比测试中,验证关闭缓存对响应质量和延迟的影响。

检查清单
  • 我已在 Issue 列表中搜索过相关功能,确认该功能想法从未被提出过。
  • 我建议的功能与 AstrBot 本体相关,而非在建议某一插件的功能。
  • 我已阅读并同意本项目的贡献者行为准则。
  • (可选)我愿意提交 PR 以帮助实现该功能。
Lingua principale
Python
Stelle
46.9k
Fork
3.6k
Merge medio
1g 6h
PR unite (30g)
136

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di AstrBotDevs/AstrBot

Tutte le issue di AstrBotDevs/AstrBot

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.