higress-group/higress

AWS Bedrock / Vertex AI provider 能否支持 role 鉴权的方式

オープン

#2,154 opened on 2025/04/30

 (7 件のコメント) (0 件のリアクション) (0 人の担当者)Go (1,219 件のフォーク)github user discovery
help wantedlevel/challengepriority/high

Repository metrics

Stars
 (9,036 個のスター)
PR merge metrics
 (平均マージ 7d 9h) (30d で 18 merged PRs)

説明

Why do you need it?

当前实现的 provider 只支持 ak/sk 这种鉴权方式,见代码,严格来说不是很完备,有些情况下用户更希望通过 role 鉴权方式(无 AK ),是否可以像 litellm 这样支持更灵活的鉴权方式,参考:

https://github.com/BerriAI/litellm/blob/b82af5b826553b5d35864c924af3b368a235fd6d/litellm/llms/bedrock/base_aws_llm.py#L69C9-L69C24

https://github.com/BerriAI/litellm/blob/b82af5b826553b5d35864c924af3b368a235fd6d/litellm/llms/vertex_ai/vertex_llm_base.py#L40

How could it be?

参考 litellm 的实现支持多种鉴权方式

Other related information

Add any other context or screenshots about the feature request here.

コントリビューターガイド