AI agent skips requirements/test cases and writes code without approval — causes cascading failures
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
Direzione di ricerca
Non sono identificati file del repository, test o punti di ingresso dell’agente; inizia individuando il workflow che gestisce la pianificazione e l’approvazione, quindi esamina il lavoro Terraform e gli esempi di scan.sh indicati nell’issue. Il lavoro è completato quando sono soddisfatti i criteri di accettazione elencati: i requisiti e i test precedono l’approvazione e l’implementazione, le azioni vengono fornite come script e le assunzioni esterne vengono verificate per prime.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
GitHub Issue: AI Agent Repeatedly Violates Requirements-First Process
Title
AI agent skips requirements/test cases and writes code without approval — causes cascading failures
Labels
process, incident, ai-tooling
Description
The AI coding agent (Kiro) repeatedly violates the established workflow:
- Requirements document
- Test cases
- User approval
- Implementation
Instead it jumps directly to code, introduces bugs, then spends hours debugging issues that would have been caught by step 1.
Examples from Aug 14–20
| Date | Violation | Impact |
|---|---|---|
| Aug 14 | NAT instance terraform — no requirements, used yum on AL2023 |
3+ hours debugging, instance never worked |
| Aug 14 | Scanner scan.sh — wrong git auth format, used /tmp |
All clones failed, multiple rebuild cycles |
| Aug 15 | VPC endpoints — deployed SSM only, missed ECR/S3/DynamoDB | Scanner couldn't pull image |
| Aug 20 | Missing security group on ECS task | Task stuck in PENDING, another hour wasted |
| Aug 20 | Asked user "do you want requirements?" instead of defaulting to them | User had to correct again |
| Multiple | Gave raw copy-paste commands instead of scripts | Not repeatable, not logged, not auditable |
Root Cause
Agent prioritizes speed over correctness. It tries to "complete fast" by skipping process steps, which paradoxically makes everything take 5–10x longer due to cascading failures.
Expected Behavior
- Never write ANY code without requirements + test cases + approval — infra, application, scripts, Dockerfiles, all of it
- Never give raw commands — always a script with logging, SSO check, error handling
- Research before implementing — check docs, package managers, auth formats BEFORE writing code
- Default to requirements — don't ask "should I write requirements?" — just do it
- Validate assumptions — if code depends on an external system, verify it works on that system BEFORE writing
Acceptance Criteria
- Zero process violations in next session
- Every infrastructure change has requirements → tests → approval → implementation
- Every action delivered as a script, never raw commands
- Research/verification done BEFORE code, not after failure
Cost
Conservative estimate: 6+ hours of user time wasted across Aug 14–20 debugging issues that should never have existed.
- Lingua principale
- Rust
- Stelle
- 2k
- Fork
- 441
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di aws/amazon-q-developer-cli
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
aws/amazon-q-developer-cli#3898 ·
-
bug: invalid JSON in agent-format.md `allowedTools` Examples block (JS `//` comments + unquoted `@builtin`) breaks copy-pasteForse già presa @ken-jo l’ha presa 112 giorni fa. Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
aws/amazon-q-developer-cli#3851 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 72/100
aws/amazon-q-developer-cli#3316 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
aws/amazon-q-developer-cli#3023 · 2 commenti ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 20/100
aws/amazon-q-developer-cli#3925 · 1 commento ·
Tutte le issue di aws/amazon-q-developer-cli
Issue simili
-
bug user-priority/P2
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
rescript-lang/rescript#8765 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
nautechsystems/nautilus_trader#5287 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
farion1231/cc-switch#8072 ·
I maintainer di solito rispondono entro 1 giorno
-
Python 3.15 supportForse già presa @amnesiaof l’ha presa oggi. ApertaL: python L: python:uv
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
dependabot/dependabot-core#16524 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno