Thay GPT-5 bằng Claude trong một agent đang hoạt động và hầu hết thời gian, mọi thứ gần như không thay đổi. Thay đổi cách xử lý thử lại, những gì bạn đưa vào cửa sổ ngữ cảnh, hoặc khi nào nó quyết định dừng lại, và toàn bộ agent hoạt động khác đi. Khoảng cách đó là dấu hiệu quan trọng: mô hình là phần nhỏ nhất và dễ thay thế nhất trong một agent đang hoạt động. Kỹ thuật thú vị nằm ở tất cả những gì bao quanh nó.
Wrapper đó giờ đã có tên. Các nhà thực hành đã chọn "harness" cho lớp biến một bộ tạo văn bản thành thứ gì đó thực hiện hành động theo thời gian thay vì chạy một script cố định. Thuật ngữ này lan rộng nhanh chóng trên Twitter và các blog kỹ thuật đầu năm 2026, nghĩa là nó cũng được dùng một cách lỏng lẻo, với cùng một từ làm những công việc hơi khác nhau trong mỗi bài bạn đọc. Bài viết này làm rõ: harness là gì, nó gồm những gì, nó khác "framework" và "scaffold" như thế nào, và tại sao phần lớn chất lượng agent của bạn ẩn trong harness, không phải trong mô hình.
Phiên bản ngắn gọn
- Agent harness là phần mềm xung quanh một LLM quản lý vòng lặp thực thi, các công cụ, bộ nhớ, ngữ cảnh, trạng thái, xử lý lỗi và các rào chắn an toàn. Mô hình tạo ra văn bản; harness quyết định mô hình thấy gì, có thể làm gì, khi nào dừng lại và điều gì xảy ra khi có sự cố.
- Trong môi trường production, lời gọi mô hình thường là phần nhỏ nhất có thể thấy trong diện tích bề mặt hệ thống. Một mô hình yếu hơn trong một harness được xây dựng tốt có thể vượt qua một mô hình mạnh hơn trong một harness cẩu thả, đặc biệt với các tác vụ chạy lâu và sử dụng nhiều công cụ.
- Một harness có khoảng chín đến mười một thành phần lặp đi lặp lại. Hầu hết trong số đó là những thứ mà mô hình không bao giờ trực tiếp chạm vào.
- "Harness" không giống "framework". Một framework (LangGraph, agents SDK) là thư viện bạn dùng để xây dựng; harness là lớp đang chạy mà thư viện đó giúp bạn lắp ráp.
Agent Harness là gì?
Agent harness là cơ sở hạ tầng phần mềm xung quanh một mô hình ngôn ngữ quản lý vòng lặp thực thi, truy cập công cụ, bộ nhớ, ngữ cảnh, lưu trữ trạng thái, xử lý lỗi và các rào chắn an toàn. Mô hình tạo ra văn bản. Harness quyết định mô hình thấy gì trong mỗi lượt, có thể thực hiện hành động nào, khi nào dừng lại và điều gì xảy ra khi một bước thất bại.
Cách diễn đạt rõ ràng nhất đến từ LangChain, những người rút gọn nó thành một phương trình: Agent = Model + Harness. Mô hình cung cấp trí tuệ. Harness là thứ khiến trí tuệ đó thực sự làm được điều gì đó trong thế giới thực.
"Harness là toàn bộ mã, cấu hình và logic thực thi không phải là bản thân mô hình."
— LangChain, Cấu trúc của một Agent Harness
Tôi thấy ranh giới này dễ cảm nhận nhất qua một câu hỏi: khi agent của bạn làm sai, liệu đó là do logic suy luận của chính mô hình sai, hay là hệ thống xung quanh đã cung cấp cho mô hình ngữ cảnh sai, công cụ sai, hoặc không có cách nào để phục hồi? Hầu hết thời gian, trên hệ thống thực, đó là trường hợp thứ hai. Mô hình suy luận tốt trên dữ liệu đầu vào tồi. Harness là thứ kiểm soát đầu vào.
Điểm mấu chốt: Mô hình tạo ra; harness điều phối. Sự phân tách đó là toàn bộ khái niệm.
Các thành phần của Agent Harness là gì?
Mỗi harness production đều tập hợp các thành phần lặp đi lặp lại giống nhau: execution loop điều khiển mô hình từng lượt, truy cập công cụ để nó có thể hành động, bộ nhớ giữa các lượt, quản lý ngữ cảnh cho những gì nó đang thấy, duy trì trạng thái để công việc tồn tại qua các phiên, xử lý lỗi cho các bước thất bại, và guardrails giới hạn những gì nó có thể làm. Các hệ thống production thêm verification loops và subagent orchestration.
Một danh sách hữu ích, được rút ra từ cách các nhà thực hành mô tả các hệ thống thực tế:
- Execution / control loop: thứ điều khiển agent từng lượt một. Gọi model, đọc đầu ra, chạy tool được yêu cầu, trả kết quả lại, lặp lại cho đến khi đạt điều kiện dừng.
- Quyền truy cập Tool: các hàm, API, thực thi code và filesystem mà model có thể truy cập.
- Bộ nhớ: những gì agent lưu giữ qua các lượt và các phiên.
- Quản lý ngữ cảnh: những gì được nạp vào context window của model ở mỗi lượt, và những gì bị nén lại khi tràn.
- Lưu trữ trạng thái / checkpointing: lưu trạng thái của agent để tiến trình bị crash hoặc tạm dừng có thể tiếp tục.
- Xử lý lỗi: thử lại, fallback và phục hồi khi một tool call hoặc model call thất bại.
- Guardrails: giới hạn những gì agent có thể làm, chẳng hạn như các công cụ được phép, giới hạn bước và xác thực đầu ra.
- Vòng lặp xác minh: agent (hoặc harness) tự kiểm tra công việc của mình trước khi tuyên bố hoàn thành.
- Điều phối subagent: khởi tạo, ủy quyền cho và thu thập kết quả từ các sub-agent trong các tác vụ lớn hơn.
Không phải tất cả đều mang tính phổ quát. Vòng lặp thực thi, công cụ, xử lý ngữ cảnh và xử lý lỗi xuất hiện ngay cả trong một prototype cuối tuần. Persistence trạng thái, xác minh và điều phối subagent là nơi prototype và hệ thống production tách biệt. Prototype có thể bỏ qua chúng; agent production chạy dài không thể. Bài viết của Anthropic về agent chạy dài là hành trình qua các phần chỉ dành cho môi trường production: cách một agent xây dựng lại hiểu biết của mình từ tệp tiến trình sau khi cửa sổ ngữ cảnh được đặt lại, và cách kiểm thử được tích hợp vào vòng lặp.
Dành cho những ai muốn cầu nối học thuật, một khảo sát về kiến trúc agent gói gọn cùng bộ máy đó vào một bộ tuple hình thức nhỏ hơn của các thành phần cốt lõi. Danh sách của người thực hành và cách đóng khung của khảo sát là hai mức thu phóng trên cùng một cấu trúc: khảo sát nén lại, danh mục ở trên mở rộng ra. Hãy coi con số chín đến mười một là các thành phần mà hầu hết các harness production đều chia sẻ, không phải một tiêu chuẩn đã được phê chuẩn; lĩnh vực này vẫn chưa phê chuẩn bất cứ điều gì.
Điểm mấu chốt: Phần lớn các bộ phận chuyển động của agent nằm trong harness, không phải trong model. Model chỉ là một trong nhiều thành phần.
Tại sao Harness quan trọng hơn Model?
Một model yếu hơn bên trong một harness được thiết kế tốt thường xuyên vượt trội hơn một model mạnh hơn trong một harness được thiết kế kém. Lý do mang tính cơ học, không phải kỳ diệu: độ tin cậy end-to-end của agent là tích của độ tin cậy từng bước, và hầu hết các bước đó (chọn công cụ, lắp ráp context, khôi phục lỗi) là công việc của harness, không phải model. Cải thiện chúng và toàn bộ chuỗi trở nên đáng tin cậy hơn, bất kể model nào đang ở bên trong.
Toán học làm cho nó trở nên cụ thể. Giả sử mỗi bước trong một tác vụ mười bước thành công 99% thời gian. Thành công end-to-end không phải 99%. Đó là 0.99 lũy thừa mười, khoảng 90%. Đẩy mỗi bước lên 99.9% và end-to-end nhảy lên khoảng 99%. Độ tin cậy mỗi bước tích lũy theo lãi kép, và độ tin cậy mỗi bước phần lớn là thuộc tính của harness. Đó là lý do tại sao tối ưu hóa xử lý lỗi và quản lý context mang lại nhiều lợi ích hơn là thay thế bằng một model tốt hơn nửa điểm trên một benchmark nào đó.
Có tín hiệu từ production trỏ cùng một hướng. MongoDB, trích dẫn nghiên cứu điển hình của Vercel, báo cáo rằng Vercel đã cắt giảm phần lớn công cụ của agent và quan sát tỷ lệ thành công tăng vọt trên cùng một model, với một harness nhỏ hơn và gọn gàng hơn. Hãy đọc đây là bằng chứng hội tụ hơn là bằng chứng xác thực: đây là một trường hợp production, không phải thí nghiệm có kiểm soát, nhưng nó chỉ cùng hướng với phép tính cộng dồn và nghiên cứu khảo sát ở trên.
Đây là heuristic mà tôi với tư cách là kỹ sư nền tảng liên tục quay lại: context là nút thắt cổ chai, không phải khả năng thô của model, và scaffolding được xây dựng để che lấp những khoảng trống của model hiện tại có xu hướng bị nuốt chửng khi model cải thiện. Xây dựng các phần bền vững của harness (vòng lặp, trạng thái, khôi phục) và để model bên dưới tự cải thiện theo lịch trình của nó.
Điểm mấu chốt: Khi agent của bạn thất bại, hãy nghi ngờ harness trước khi nghi ngờ model. Xác suất ủng hộ điều đó.
Sự khác biệt giữa Harness, Scaffold và Framework là gì?
Ba thuật ngữ này được dùng thay thế nhau, nhưng không nên vậy. A framework là thư viện hoặc SDK bạn dùng để xây dựng, chẳng hạn như LangGraph hoặc agents SDK. A harness là lớp thực thi và quản trị đang chạy xung quanh mô hình, mà một framework giúp bạn lắp ráp. A scaffold là lỏng lẻo nhất trong ba khái niệm: đôi khi gần như đồng nghĩa với harness, đôi khi là phiên bản nguyên mẫu của nó, đôi khi cụ thể là lớp prompt và mô tả công cụ.
Từ vựng thực sự chưa được thống nhất, và điều rõ ràng nhất cần làm là ghi lại các cách dùng thay vì áp đặt một cách. Của HuggingFace Bảng thuật ngữ Agent nói thẳng điều này:
"Nhiều thuật ngữ trong số này chưa có định nghĩa được chấp nhận rộng rãi, và các framework khác nhau dùng cùng một từ theo những cách khác nhau."
— HuggingFace, Bảng thuật ngữ Agent
| Thuật ngữ | Điều nó đề cập đến | Quan hệ |
|---|---|---|
| Framework | Thư viện hoặc SDK bạn dùng để xây dựng (LangGraph, SDK tác nhân) | Công cụ để lắp ráp harness |
| Harness | Lớp chạy xung quanh mô hình: vòng lặp, công cụ, ngữ cảnh, trạng thái, guardrails | Thứ bạn triển khai và chạy |
| Scaffold | Dùng theo nghĩa rộng: gần đồng nghĩa với harness, hoặc phiên bản cấp nguyên mẫu / lớp prompt | Chồng lấp với harness; kém chính xác hơn |
| Vòng lặp | Chu kỳ thực thi bên trong harness | Một thành phần của harness |
Kết luận thực tiễn để lý luận về hệ thống của bạn: khi ai đó nói "framework", hãy hỏi xem họ có ý là library hay thứ đang chạy. Khi ai đó nói "scaffold", hãy hỏi xem họ có ý là toàn bộ harness hay chỉ lớp prompt-and-tool. Giá trị ở đây là sự làm rõ nghĩa, không phải tuyên bố nói tiếng cuối.
LangGraph Triển Khai Mẫu Harness Như Thế Nào?
LangGraph là một triển khai Python mã nguồn mở phổ biến của mẫu harness. Nó mô hình hóa việc thực thi agent như một đồ thị có hướng của các node và edge, với typed state chảy giữa chúng và mỗi transition có thể checkpoint được. Nếu các thành phần trừu tượng ở trên cảm thấy khó nắm bắt, LangGraph là nơi để thấy chúng có hình dạng cụ thể trong một công cụ thực tế.
Ánh xạ gần như một-đối-một. Các node và edge là vòng lặp thực thi: mỗi node thực hiện công việc, mỗi edge quyết định nơi điều khiển đi tiếp theo. Typed state object được truyền giữa các node là thành phần context-and-state được làm rõ ràng. Checkpointing (LangGraph duy trì state qua savers như cái được hỗ trợ bởi Postgres) là thành phần state-persistence. Giới hạn bước có thể cấu hình là một guardrail điều kiện dừng, ngăn agent hoạt động sai từ vòng lặp mãi mãi. Các thành phần giống nhau, được đặt tên và kết nối bởi một library cụ thể.
Nếu bạn muốn chạy LangGraph agent trên server của riêng mình, suốt ngày đêm, đó là câu hỏi về deployment chứ không phải khái niệm. Xem hướng dẫn Linux VPS của chúng tôi cho con đường đó. Ở đây, LangGraph chỉ là ví dụ đã được giải quyết: bằng chứng rằng "execution loop", "state persistence" và "guardrail" không phải là trừu tượng, chúng là những thứ bạn có thể chỉ ra trong code thực.
Câu hỏi thường gặp
Agent Harness là gì?
Agent harness là phần mềm xung quanh language model biến nó thành agent. Nó quản lý execution loop, truy cập công cụ, bộ nhớ, context, state persistence, xử lý lỗi và guardrail. Model tạo ra văn bản; harness quyết định model thấy gì, có thể làm gì, khi nào dừng lại và điều gì xảy ra khi có gì đó thất bại.
Agent Harness Có Phải Là Agent Framework Không?
Không. Framework là thư viện hoặc SDK bạn dùng để xây dựng, như LangGraph hoặc agents SDK. Harness là lớp thực thi và quản trị đang chạy xung quanh mô hình (vòng lặp, công cụ, ngữ cảnh, trạng thái và guardrails) mà framework giúp bạn lắp ráp. Bạn dùng framework để xây dựng harness.
Mọi Agent Harness Đều Có Những Thành Phần Nào?
Hầu hết các harness đều có một lõi lặp đi lặp lại: execution loop, truy cập tool, bộ nhớ, quản lý ngữ cảnh, lưu trữ trạng thái, xử lý lỗi và guardrails. Harness sản xuất bổ sung thêm verification loop và điều phối subagent. Prototype có thể bỏ qua các phần chỉ dành cho sản xuất, nhưng loop, tools, xử lý ngữ cảnh và xử lý lỗi xuất hiện ở hầu hết mọi nơi.
"LLM Là Phần Nhỏ Nhất Trong Hệ Thống Agent Của Bạn" Có Nghĩa Là Gì?
Nghĩa là phần lớn hành vi và độ tin cậy của agent đến từ harness, không phải từ mô hình. Độ tin cậy end-to-end là tích của tỷ lệ thành công của mỗi bước, và hầu hết các bước đều là công việc của harness. MongoDB, dẫn nghiên cứu trường hợp của Vercel, báo cáo tỷ lệ thành công tăng vọt chỉ từ các thay đổi harness, trên cùng một mô hình. Đó là bằng chứng rằng sửa harness hiệu quả hơn sửa mô hình.
Chất Lượng Agent Của Bạn Nằm Ở Đâu
Harness là nơi phần lớn chất lượng của agent tồn tại, và bây giờ bạn đã có từ vựng để xác định vấn đề trong hệ thống của mình. Bạn có thể định nghĩa một harness, đặt tên các thành phần của nó, phân biệt nó với framework và scaffold, và lý luận xem một lỗi cụ thể là vấn đề của mô hình hay vấn đề của harness.
Vì vậy, lần tới khi agent của bạn hoạt động sai, hãy kiểm tra lớp harness trước: ngữ cảnh bạn đang cung cấp, các công cụ bạn đã mở, điều kiện dừng bạn đã đặt, cách nó phục hồi sau một bước thất bại. Chỉ chuyển sang mô hình lớn hơn sau khi lớp đó đã được kiểm tra. Hầu hết thời gian, bạn sẽ không cần đến.
