Add Circle/x402 paid crawl endpoint for autonomous agents
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
Direzione di ricerca
Start by locating the existing /crawl, /crawl/job, /crawl/stream, and /llm/job API entry points and the crawl/job pipeline they use. Review how request schemas, authentication, and results are handled before defining the additive /x402/crawl behavior. Done would include the paid route, payment verification, crawl output with a receipt, and documentation of supported networks, pricing, schemas, and retries.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Proposal: add an optional Circle/x402 paid crawl endpoint for autonomous agents
I ran a static Circle/x402 readiness scan against Crawl4AI to see whether it could become an agent-payable service. Crawl4AI is a strong fit because agents already need on-demand crawling, extraction, and LLM-ready web data.
Readiness summary
- Score from the scan: 46/100 — good candidate, medium effort.
- The repo has meaningful primitives for crawling jobs, schemas, rate/concurrency concerns, and receipt/proof-like result concepts.
- I did not find x402 or Circle Agent Wallet/Marketplace-specific documentation.
- The scanner did not fully detect Crawl4AI's Python/FastAPI-style routes, but source references show Docker/API surfaces such as
/crawl,/crawl/job,/crawl/stream, and/llm/jobpatterns.
Why this is useful
AI agents often need one-off crawling or extraction without a long-lived API key, dashboard account, or shared credit pool. A Circle/x402 paid route would let an agent:
- Discover a paid crawl endpoint.
- Inspect price and input schema.
- Pay in USDC from a Circle Agent Wallet.
- Receive crawl output plus a receipt/proof object.
Suggested first implementation
Start with a narrow additive endpoint rather than changing the whole auth or deployment model:
POST /x402/crawl
-> return 402 Payment Required when no valid payment is supplied
-> verify x402 payment on Base/USDC
-> run the existing crawl/job pipeline
-> return { data, receipt }
A receipt shape for agent buyers could look like:
{
"receipt": {
"amount": "0.01",
"asset": "USDC",
"network": "base",
"resource": "POST /x402/crawl",
"requestHash": "sha256:...",
"resultHash": "sha256:...",
"jobId": "crawl_..."
}
}
Circle Agent Marketplace readiness docs
If this is interesting, I would also document:
- supported network(s)
- USDC price per crawl or per page
- request JSON schema
- response JSON schema
- receipt/proof object
- timeout and retry behavior
- how Circle Agent Wallet / x402 clients should pay
I generated this from Budcle, a small scanner for identifying Circle/x402 adoption gaps in open-source API projects: https://github.com/batikanor/Budcle
This is intentionally additive: existing Crawl4AI library usage, Docker deployment, and auth choices can remain unchanged while adding one agent-payable path for x402-capable clients.
- Lingua principale
- Python
- Stelle
- 85.4k
- Fork
- 8.9k
- Merge medio
- 5g 7h
- PR unite (30g)
- 23
Preparare l'ambiente
- Include un Dockerfile o un file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di unclecode/crawl4ai
-
[Bug]: Text after an inline <link>, <meta>, <style> or <noscript> is dropped from cleaned_html and markdownForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
unclecode/crawl4ai#2416 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: Since 0.9.1, Linux launches chrome-headless-shell instead of ChromiumForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
unclecode/crawl4ai#2382 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: BestFirstCrawlingStrategy fetches a full batch past max_pagesForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
unclecode/crawl4ai#2381 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: CrawlerRunConfig.clone() drops fallback_fetch_function, so deep crawls never use itForse già presa @siva23367 l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
unclecode/crawl4ai#2379 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: Docker memory guard reads host RAM when no container limit is set — cgroup v2 "max" defeats get_container_memory_percentForse già presa @Battleplus l’ha presa 57 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
unclecode/crawl4ai#2123 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di unclecode/crawl4ai
Issue simili
-
Edit tool converts CRLF files to LFForse già presa @RaphaelFakhri l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
huggingface/tau#774 ·
I maintainer di solito rispondono entro 1 giorno
-
show ignores the row limit when a column or table name contains "limit"Forse già presa @RaphaelFakhri l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 2 giorni
-
documentation good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
eclipse-score/inc_someip_gateway#356 ·
I maintainer di solito rispondono entro 2 giorni