Consider enabling HTTP2 by default
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 48/100
Piste de recherche
Commencez par _DefaultHttpxClient dans src/openai/_base_client.py et les déclarations de dépendances dans pyproject.toml. Déterminez comment l’activation de HTTP/2 doit gérer la dépendance h2 et le comportement existant de custom http_client ; le travail est terminé lorsque le client par défaut utilise HTTP/2 sans perturber le fallback vers HTTP/1.1 ni les clients fournis par l’utilisateur.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Confirm this is a feature request for the Python library and not the underlying OpenAI API.
- This is a feature request for the Python library
Describe the feature or improvement you're requesting
Motivation
The OpenAI Python SDK uses httpx as its HTTP client, but HTTP/2 is disabled by default (http2=False in httpx.Client.__init__). This means every SDK user is stuck with HTTP/1.1 unless they manually configure a custom httpx.Client(http2=True) — a detail most users never discover.
Checked against v2.44.0 (latest), the _DefaultHttpxClient (src/openai/_base_client.py:834) still doesn't pass http2=True, and pyproject.toml only declares httpx>=0.23.0, <1 with no [http2] extra:
class _DefaultHttpxClient(httpx.Client):
def __init__(self, **kwargs: Any) -> None:
kwargs.setdefault("timeout", DEFAULT_TIMEOUT)
kwargs.setdefault("limits", DEFAULT_CONNECTION_LIMITS)
kwargs.setdefault("follow_redirects", True)
super().__init__(**kwargs) # http2 defaults to False
Proposed Change
class _DefaultHttpxClient(httpx.Client):
def __init__(self, **kwargs: Any) -> None:
kwargs.setdefault("timeout", DEFAULT_TIMEOUT)
kwargs.setdefault("limits", DEFAULT_CONNECTION_LIMITS)
kwargs.setdefault("follow_redirects", True)
+ kwargs.setdefault("http2", True)
super().__init__(**kwargs)
And optionally add an [http2] extra in pyproject.toml:
[project.optional-dependencies]
http2 = ["httpx[http2]"]
Prior Art
- Anthropic Python SDK (v0.104.1) already passes
http2through to the httpx transport (_base_client.py:871) - httpx has supported HTTP/2 since v0.13 (current declared dep is
httpx>=0.23.0) - The
h2package is lightweight, pure-Python, and widely used - HTTP/2 is supported across all major LLM API providers
Compatibility
- If the user provides a custom
http_client, their configuration takes precedence — no breaking change - If the server doesn't support HTTP/2, httpx gracefully downgrades to HTTP/1.1 (this has been handled by httpx for years)
- Connection limits already set by the SDK are fully compatible with HTTP/2
- No API changes needed — purely internal client configuration
Why Not Just Document It
Users can already do this manually:
import httpx
from openai import OpenAI
client = OpenAI(http_client=httpx.Client(http2=True))
But most users never find this knob. Making it the default means everyone benefits, especially developers using the SDK for production workloads with high request volumes. The downside is negligible: users who don't have h2 installed would get an ImportError at client construction (easily debuggable), or we mitigate this by making h2 optional and wrapping the import.
Additional context
Many popular LLM API providers already support HTTP/2 (confirmed via ALPN h2):
- OpenAI (
api.openai.com) - DeepSeek (
api.deepseek.com) - Anthropic (
api.anthropic.com)
Performance Impact
HTTP/2 brings meaningful improvements, especially for chat completions (frequent, streaming requests):
| Metric | HTTP/1.1 | HTTP/2 |
|---|---|---|
| TLS handshake | ~100ms | ~67ms (1-RTT) |
| Single request | ~134ms | ~123ms |
| Header compression | ❌ | ✅ HPACK |
| Multiplexing | ❌ (6 conn/browser limit) | ✅ (1-2 connections) |
| Connections for 10 requests | 10 | 1-2 |
The biggest win is connection reuse + multiplexing. In HTTP/1.1, every concurrent or back-to-back request opens a new TCP+TLS handshake. With HTTP/2, a single persistent connection handles multiple concurrent requests — critical for streaming chat.completions.create(stream=True) where the SDK opens many chunks over the same connection. Real-world test on DeepSeek API showed TLS handshake dropping from ~100ms to ~67ms just from HTTP/2's 1-RTT TLS.
- Langage dominant
- Python
- Étoiles
- 32k
- Forks
- 7.3k
- Merge moyen
- 16 h 38 min
- PR mergées (30 j)
- 170
Préparer son environnement
Lance le conteneur de développement du projet dans votre navigateur, avec votre propre compte GitHub.
- Aucun Dockerfile ni fichier Docker Compose
- Propose un modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de openai/openai-python
-
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
openai/openai-python#4156 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
openai/openai-python#4022 · 23 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
fix(auth): SubjectTokenProviderError drops response and duplicates error message in workload identity providersPeut-être pris @mohmedmm l’a pris il y a 29 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 86/100
openai/openai-python#4017 · 5 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
Define + export `ServiceTiers` string literalPeut-être pris @SparshGarg999 l’a pris il y a 78 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
openai/openai-python#3556 · 3 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
Empty OPENAI_BASE_URL prevents fallback to default API endpointPeut-être pris @Sehastrajit-S l’a pris il y a 44 jours. Ouvertebug
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
openai/openai-python#2927 · 7 commentaires ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de openai/openai-python
Issues similaires
-
_chunk_scan_fwd launches its Triton kernel without a device guard: NaN when a model is split across GPUsPeut-être pris @toddwbucy l’a pris aujourd’hui. Ouverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 85/100
state-spaces/mamba#1072 ·
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 85/100
loopj/aiovantage#414 ·
Les mainteneurs répondent en général sous 1 jour
-
power_mismatch_deline docstring: the rear-to-total RMAD conversion has an extra bifaciality factorOuverte
Difficulté 1/5 Moins d'une heure Accessibilité débutants 85/100
pvlib/pvlib-python#2929 ·
Les mainteneurs répondent en général sous 1 jour
-
data good first issue launch-day unverified
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
BradGroux/wow-forever-mission-control#8 ·
Les mainteneurs répondent en général sous 1 jour
-
check bilibili falsely reports read/subtitle as broken: live_test fixture BV1GJ411x7h7 is gone (404)Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
Panniantong/Agent-Reach#889 ·
Les mainteneurs répondent en général sous 2 jours