Copilot engine: tool images never reach the model behind the API proxy

Abierto Apto para principiantes
  • ¿Algo no está bien?
#76,385 1 comentario 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
2/5
Tiempo estimado
1-3 horas
Aptitud para principiantes
72/100
Tipo de issue
Error
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
github-actions, go
Área
devtools

Línea de trabajo

Empieza leyendo src/services/credentials/copilot-credential-env.ts en torno a la configuración del entorno del proxy de API y, después, busca dónde se define y se usa DefaultCopilotVersion. Revisa las pruebas existentes del entorno de credenciales de Copilot y del comportamiento de la versión CLI predeterminada. La tarea estará terminada cuando el modo proxy del token de GitHub habilite vision y la versión predeterminada de Copilot CLI sea al menos 1.0.106.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

awf community

Images from tools are dropped for every Copilot workflow that uses a COPILOT_GITHUB_TOKEN, so screenshot- and image-based workflows can't see anything.

Steps

  1. Commit any PNG as test.png.
  2. Add a workflow_dispatch workflow with engine: copilot and the prompt "Open test.png with the view tool and describe it."
  3. Set COPILOT_GITHUB_TOKEN, compile, and run.

Expected: the model receives the image and describes it.

Actual: the model says it can't see the image. On CLI 1.0.106 the view result is only Viewed image file successfully. (an image attachment was omitted from this request because image input is unavailable for the current model). On the default 1.0.103 the omission note is missing too. With COPILOT_PROVIDER_VISION: "true" in engine.env (CLI 1.0.106), the same run describes the image correctly.

Build: gh aw v1.0.1, Copilot CLI 1.0.103 (default) and 1.0.106, ubuntu-latest.

Cause: in API-proxy mode, AWF runs the CLI as an offline BYOK client pointed at the sidecar (copilot-credential-env.ts). The CLI treats BYOK models as text-only unless COPILOT_PROVIDER_VISION=true, which https://github.com/github/copilot-agent-runtime/pull/32179 added (CLI 1.0.106 and later; documented in copilot help environment).

Suggested fix: set COPILOT_PROVIDER_VISION=true alongside COPILOT_OFFLINE in GitHub-token mode, and move DefaultCopilotVersion to 1.0.106 or later.

Workaround:

engine:
  id: copilot
  version: "1.0.106"
  checksums-sha256: "5e8cf7427cc69cc757d1a08132dac0eb9e7f56c95d269ecbc06799686e996730" # SHA256SUMS.txt
  env:
    COPILOT_PROVIDER_VISION: "true"

Related: https://github.com/github/gh-aw/issues/74972, https://github.com/github/copilot-cli/issues/4600

🤖 Authored with GitHub Copilot on behalf of @rwoll.

[!NOTE]

Was this description helpful?
Pick a rating, then press Submit.

Rate the description, not the code. Humans only, please. Thanks for helping me write clearer descriptions!

Lenguaje dominante
Go
Estrellas
5.6k
Forks
615
Merge medio
5 h 21 min
PR fusionados (30 d)
792

Preparar el entorno

Abrir en Codespaces

Inicia el contenedor de desarrollo del proyecto en tu navegador, con tu propia cuenta de GitHub.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de github/gh-aw

Todos los issues de github/gh-aw

Issues similares

Más issues de Go

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.