apache/airflow

Add ability to interact with OpenSearch in AWS

Fechada

#39.378 aberto em 2 de mai. de 2024

Ver no GitHubGuia do colaborador
 (5 comentários) (1 reação) (0 responsável)Python (16.781 forks)batch import
area:providersgood first issuekind:featureprovider:amazon

Métricas do repositório

Stars
 (44.809 estrelas)
Métricas de merge de PR
 (Mesclagem média 7d 18h) (834 fundiu PRs em 30d)

Description

Body

We have OpenSearch provider but currently it can't be used with AWS auth mechanisms. We need to create a version of it in AWS provider (overriding only that particular portion of the Hook)

This effort started in https://github.com/apache/airflow/pull/34693

Note this is about querying open search - it's not about submitting Airflow logs to open search (for that we have another task https://github.com/apache/airflow/issues/33619 )

Committer

  • I acknowledge that I am a maintainer/committer of the Apache Airflow project.

Guia do colaborador

Direção de pesquisa
Review the existing OpenSearch provider in Airflow (likely under `airflow/providers/amazon/aws/hooks/opensearch.py`). Understand the current Hook implementation and how it handles authentication. Then examine the linked PR #34693 for prior work and specific changes needed. Create a new provider version under the AWS provider that inherits from the base OpenSearch hook and overrides the authentication method to support AWS IAM, possibly using `requests aws4auth` or boto3. Ensure compatibility with the existing tests and consider adding new tests for AWS auth.
Pilha de tecnologia
pythonaws
Domain
backendapicloudsearch
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
PythonAirflow provider hooksAWS authenticationOpenSearch
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40