S-05 · TRACK 03 · PATTERNS

Prompt Chaining

Chia task lớn thành chuỗi bước có gate — pattern nền tảng đầu tiên trong 21 design pattern của Antonio Gulli.

Buổi 5 — Chúng ta sẽ đi qua gì?

🚩

01 · Vì sao chain?

Prompt monolithic vỡ ở đâu — 5 pain point cụ thể

🧠

02 · Cơ chế

Sequential pipeline, structured output, gate check

🛠

03 · Biến thể

Linear, gated, JSON pipeline, self-consistency

💻

04 · Thực chiến

Code Python, so sánh 4 framework, anti-pattern

🎯

05 · Takeaways & homework

5 điều nhớ + bài tập chuẩn bị S-06

01

Vì sao chain?
Prompt monolithic vỡ ở đâu?

Một prompt "khủng" — 5 kiểu vỡ điển hình

Prompt đơn ôm hết task

• Instruction neglect — 8 yêu cầu trong 1 prompt, model bỏ 3.

• Context overload — nhồi input dài, quan trọng bị "lost in middle".

• Format drift — đôi khi trả JSON, đôi khi Markdown, đôi khi lẫn text.

• Khó debug — sai ở đâu trong chuỗi lý luận? Không biết.

• Không tái sử dụng — prompt monolithic khoá cứng vào 1 use-case.

➔

Chia thành chuỗi bước có gate

• Mỗi bước 1 mục tiêu — model focus, ít sót.

• Output có schema — validate được, gate chặn sai lan xuống.

• Bước sau nhận đầu vào sạch — độ chính xác cộng dồn.

• Debug được từng step — log, replay, cost-per-step.

• Ghép mô-đun — dùng lại step cho use-case khác.

Anthropic (Building Effective Agents): chaining phù hợp khi bạn có thể tách task tuần tự, đổi độ trễ lấy độ tin cậy.

02

Cơ chế
Sequential pipeline với gate

Định nghĩa

Prompt Chaining là kỹ thuật chia một task phức tạp thành chuỗi các LLM call tuần tự — trong đó output của step trước là input của step sau. Giữa mỗi step có thể có gate (validation, judge, human) để chặn lỗi lan truyền.

📋

Decomposition

Chia task theo bước tự nhiên của quy trình.

🔧

Focused prompt

Mỗi step 1 nhiệm vụ, prompt ngắn & rõ.

🔒

Structured I/O

JSON / Pydantic / Zod schema giữa các bước.

✅

Gate check

Validate hoặc judge trước khi vào step kế.

Sơ đồ dòng chảy — 4 bước điển hình

Step 1

Extract

Bóc thông tin thô từ input (email, PDF, form).

➔

Step 2

Structure

Chuẩn hoá về JSON schema định trước.

➔

Step 3

Enrich / Reason

Suy luận, tra dữ liệu bổ sung.

➔

Step 4

Generate

Sinh output cuối theo tone/format mong muốn.

Ví dụ: từ email khách hàng ➔ JSON {intent, entities} ➔ Query CRM ➔ Reply tiếng Việt lịch sự. Gate: JSON schema valid + intent ∈ allowlist.

03

4 biến thể
của Prompt Chaining

Sub-patterns thực chiến

➡

1. Linear Chain

Chuỗi step tuần tự thuần, không branching. Dùng khi quy trình xác định trước, mỗi step độc lập.

Ví dụ: bóc PDF → tóm tắt → dịch → viết email.

🔒

2. Gated Chain

Giữa các step có gate: schema validation, LLM-as-judge, hoặc human approval. Chặn "rác" lan xuống.

Ví dụ: draft → judge cho điểm ≥ 8 → publish. Fail thì retry.

📚

3. JSON Pipeline

Mọi step in/out đều là JSON theo Pydantic/Zod schema. Type-safe, dễ test, dễ nối tool.

Ví dụ: Instructor lib (Python), Zod-GPT (TS).

🔄

4. Self-Consistency Chain

Chạy step quan trọng N lần với temperature > 0, chọn majority answer. Đổi cost lấy accuracy.

Ví dụ: math reasoning, code generation critical.

04

Thực chiến
Code · Framework · Anti-patterns

Code minh hoạ — Gated JSON Pipeline (Python)

chain_email_reply.py

# Step 1: Extract intent + entities → JSON
class EmailAnalysis(BaseModel):
    intent: Literal["billing", "support", "sales"]
    entities: dict
    priority: Literal["low", "med", "high"]

analysis = llm.extract(email, schema=EmailAnalysis)  # structured output

# Gate: validate schema + allowlist intent
assert analysis.intent in ALLOWED_INTENTS, "unknown intent"

# Step 2: Query CRM cho context khách hàng
customer = crm.lookup(analysis.entities["customer_id"])

# Step 3: Draft reply với context
draft = llm.generate(
    prompt=DRAFT_PROMPT.format(analysis=analysis, customer=customer),
    temperature=0.3,
)

# Step 4 (gate): LLM-as-judge chấm chất lượng
score = judge_llm.score(draft, rubric="tone,accuracy,brevity")
if score < 8:
    draft = llm.retry(feedback=judge_llm.critique)

return draft

4 framework — cùng pattern, khác cú pháp

Framework	Cấu trúc chain	Structured output	Gate mechanism	Điểm mạnh
LangGraph	Graph nodes + edges	Pydantic state	Conditional edge	Debug rõ, visualize được
CrewAI	`Process.sequential`	Task output_pydantic	Task callback	Role-based, code ngắn
Google ADK	`SequentialAgent`	Schema per agent	Callback + guardrails	Native Gemini, Vertex
Claude Code	Skill + subagent chain	Tool output JSON	TaskUpdate + hooks	Filesystem-first, plan mode

Cùng 1 pattern, 4 cú pháp. Chọn theo ecosystem đội đang có sẵn (Python vs TS vs GCP vs Anthropic).

Khi nào chain — khi nào không?

✅ Nên chain khi…

• Task có bước tự nhiên tuần tự (extract → enrich → generate).
• Cần audit từng step (finance, healthcare, legal).
• Cần structured output cho downstream system.
• Output cuối phụ thuộc chất lượng đầu vào — gate chặn rác sớm.
• Đội có thể đổi latency lấy reliability.

❌ Đừng chain khi…

• Task đơn giản — 1 prompt là đủ, chain chỉ tăng cost & latency.
• Bước không thực sự tuần tự — song song được thì chain thành ép uổng.
• Chuỗi quá dài (>5 step) — error propagation vỡ toàn chuỗi.
• Không có schema giữa các step — vô nghĩa, không gate được.
• Cần realtime <500ms — chain nhiều step không kịp.

4 anti-pattern hay gặp

🔥

Chain quá dài

>5 step, mỗi step error rate 5% ⇒ end-to-end < 77%. Merge lại thành 3 step.

🔧

Không parse structured

Trả markdown giữa các step ⇒ regex hack ⇒ vỡ khi model đổi format.

🔄

Retry vô limit

Gate fail ⇒ retry không cap ⇒ chi phí phình, latency tăng phi tuyến.

📋

Log thiếu

Không lưu input/output từng step ⇒ không debug được production incident.

Case VN 🇳🇻 — OpenSpec: chaining thực chiến cho vibe coding

OpenSpec Framework (Fission-AI, MIT License) — cẩm nang tiếng Việt biến vibe coding thành chuỗi 4 bước có gate. Mỗi «change» = một chain đầy đủ artifact có schema.

Bước 1

`/opsx:propose`

AI đề xuất ⇒ sinh 4 file cấu trúc.

➔

Bước 2

`/opsx:apply`

AI đọc tasks.md ⇒ viết code từng bước.

➔

Bước 3

`/opsx:sync`

Đồng bộ spec chính, verify.

➔

Bước 4

`/opsx:archive`

Lưu trữ change, merge spec.

📜

proposal.md

Mô tả ý định thay đổi — gate người review.

📚

specs/*.md

Spec hành vi hệ thống (structured).

🎨

design.md

Design decision, alternative đã xét.

✅

tasks.md

Danh sách task — input cho bước 2.

Nguồn: Cẩm nang OpenSpec Framework (VN) · github.com/Fission-AI/OpenSpec

4 ca sử dụng chaining — tổng hợp từ tài liệu VN

📚

1. Xử lý thông tin nghiên cứu

URL/PDF → trích văn bản → tóm tắt → trích thực thể (tên, ngày, địa điểm) → truy vấn KB nội bộ → báo cáo.

Trợ lý nghiên cứu AI — đọc & phân tích content tự động.

💭

2. Trả lời câu hỏi đa bước

Câu hỏi phức → tách subquestion → nghiên cứu song song từng phần → tổng hợp → tinh chỉnh cuối.

Kết hợp Parallelization (S-06) ở bước nghiên cứu.

📄

3. Trích & biến đổi dữ liệu

OCR biểu mẫu PDF → LLM trích văn bản → chuẩn hoá (số chữ → số) → uỷ thác tính toán cho calculator tool.

Ứng dụng invoice, KYC, hồ sơ giấy tờ.

✍

4. Content pipeline

Ý tưởng → dàn ý → viết nháp từng phần (kèm ngữ cảnh phần trước) → review mạch lạc, giọng điệu, ngữ pháp.

Có thể assign vai riêng cho mỗi bước (writer, editor).

Nguồn: Cẩm nang thực hành xây dựng các hệ thống thông minh (bản dịch VN của A. Gulli, Ch.1)

CLI thực chiến — Prompt Chaining với 3 tool

🤖 Claude Code

# Skill-based chain
mkdir .claude/skills/extract
mkdir .claude/skills/structure
mkdir .claude/skills/reply

# Mỗi SKILL.md = 1 step
claude "Đọc email.txt →
extract → structure JSON
→ reply lịch sự"

# Plan mode chain tự động
claude --permission-mode plan

⚡ Cursor

# Rules file — gate mỗi step
mkdir .cursor/rules
# 01-extract.mdc
# 02-structure-json.mdc
# 03-validate-schema.mdc
# 04-generate-reply.mdc

# Composer đọc tuần tự
cursor .
# Cmd+I → Composer mode
# Prompt: "chain 4 rules"

# Background agent
cursor-agent

💎 Gemini CLI

# Shell pipe = chain
gemini -p "Trích entities" \
  < email.txt \
  | gemini -p "JSON schema:
{name,email,intent}" \
  | gemini -p "Viết reply VN" \
  > out.txt

# Non-interactive
gemini -p "..." -m \
  gemini-2.5-pro

# Có GEMINI.md context

Setup Linux/macOS: curl -fsSL https://claude.ai/install.sh | sh · npm i -g @google/gemini-cli · Cursor: tải app + cursor vào PATH.
Setup Windows: winget install Anthropic.Claude · npm i -g @google/gemini-cli · Cursor: installer .exe + Enable cursor CLI in PATH trong settings.
Config path: Linux/macOS ~/.claude/ · ~/.cursor/ · ~/.gemini/ — Windows %USERPROFILE%\.claude\ · %APPDATA%\Cursor\ · %USERPROFILE%\.gemini\.

05

Takeaways
5 điều nên nhớ

Nhớ trước khi sang S-06

1

Chaining là đổi latency lấy reliability — pattern nền tảng nhất của Part 1 (Ch.1 sách Gulli).

2

Structured output (JSON schema) giữa các step là bắt buộc — không có schema thì không có gate.

3

Giới hạn 3–5 step. Nhiều hơn ⇒ error propagation ăn hết reliability.

4

4 biến thể: Linear · Gated · JSON Pipeline · Self-Consistency. Chọn theo yêu cầu độ chính xác vs cost.

5

Log mọi step: input, output, tokens, latency. Nếu không log ⇒ production debug là mò kim.

Bài tập & chuẩn bị buổi 6

📝

Tự kiểm tra

Chọn 1 use-case đội bạn đang dùng LLM monolithic. Vẽ chain 3–4 step tương đương.
Định nghĩa JSON schema giữa 2 step đầu.
Đặt gate ở đâu? Vì sao?

📚

Đọc trước

A. Gulli — Chapter 1 (Prompt Chaining).
Anthropic — Building Effective Agents (mục Chaining).
Instructor lib (Python) hoặc Zod (TS) — structured output.

🔗

Tài liệu VN

Cẩm nang thực hành xây dựng các hệ thống thông minh.
Cẩm nang Vibe coding OpenSpec Framework.
Quy tắc Vibe Coding.

Hết buổi 5

Buổi 6 — Routing & Parallelization
Khi chuỗi tuyến tính không đủ: chia nhánh và chạy song song.

← Trang chính S-06 ➔