Trở lại Agent = LLM + Context + Tools

Cuốn sách này mở đầu bằng một công thức: Agent = LLM + Context + Tools. Tất cả mười chương triển khai trong ba từ này.

Chương 1 thiết lập hiểu biết ba tầng về công thức—tầng triển khai, tầng trực giác và tầng học thuật—và trình bày phổ điều phối từ workflow đến Agent tự trị. Các chương theo sau triển khai dần theo trình tự "Xây dựng—Đánh giá và Tiến hóa—Tương tác và Cộng tác."

• Xây dựng Agent (Chương 2–5). Context engineering quyết định Agent thấy gì trong tác vụ, trong khi bộ nhớ và cơ sở kiến thức mở rộng thông tin qua các phiên. Tools định nghĩa nó có thể làm gì, và tạo code cung cấp siêu năng lực để tạo công cụ và hệ thống mới.
• Đánh giá và Tiến hóa (Chương 6–8). Đánh giá biến hiệu suất thành tín hiệu đáng tin cậy, post-training viết năng lực chiều cao vào tham số mô hình, và tiến hóa liên tục biến trải nghiệm sản xuất thành cập nhật có kiểm soát cho kiến thức, hướng dẫn, chương trình hoặc tham số.
• Tương tác và Cộng tác (Chương 9–10). Tương tác đa phương thức và thời gian thực mở rộng nhận thức và hành động sang giọng nói, GUI và thế giới vật lý, trong khi cộng tác đa-agent thay đổi thêm cách context, tools và trách nhiệm được tổ chức.

Ba tầng này không phải kệ độc lập. Chương 8, đặc biệt, phụ thuộc vào tất cả nền tảng được thiết lập trước: không có quỹ đạo và hệ thống kiến thức, trải nghiệm không có nơi lưu trữ; không có năng lực code, Agent không thể sửa đổi tools và Harness; và không có đánh giá, hệ thống không thể xác định liệu sửa đổi là tiến bộ hay thoái lui. Chương 8 do đó là điểm hội tụ nơi cuốn sách chuyển từ "cách xây dựng Agent" sang "cách làm cho Agent cải thiện theo thời gian."

Hai Đám mây

Năm 1900, Lord Kelvin nói hai đám mây vẫn treo trên bầu trời trong sáng của vật lý—sau này, một trở thành thuyết tương đối và cái kia là cơ học lượng tử. Ngày nay bầu trời trên Agent cũng chẳng trong sáng, và tôi cũng thấy hai đám mây.

Đám mây thứ nhất là cách Agent có thể tương tác với môi trường theo cách streaming, thời gian thực. Ngày nay, đại đa số Agent vẫn vận hành ở chế độ "yêu cầu-phản hồi" lượt nói: bạn nói xong một câu, nó suy nghĩ qua cả đoạn, và sau đó tuôn ra kết quả cùng lúc. Nhưng thế giới thực không dừng lại và đợi nó suy nghĩ xong—lời nói bị ngắt, cảnh tiếp tục thay đổi, email tiếp tục đến. Agent thực sự "sống" nên có thể nghe trong khi suy nghĩ và nói trong khi suy nghĩ, bắt đầu lập kế hoạch trong khi bạn vẫn đang nói dở, và tự nhận ra "email này cần xử lý" ngay cả khi không ai yêu cầu. Có hai con đường hướng tới khả năng thời gian thực này, thường được theo đuổi song song. Một là phân tách kiến trúc nhanh và chậm—khả năng phản hồi thời gian thực và trí tuệ gần như là các trục trực giao mà mô hình đơn khó bắc cầu, vì vậy mô hình tiền cảnh nhanh giữ nhịp hội thoại trong khi mô hình nền chậm làm suy nghĩ sâu. Hai là làm cho suy luận bản thân nhanh hơn—khi tốc độ decode đủ cao, thời gian chờ lượt nói trở nên ngắn đến mức gần như biến mất, xóa nhòa ranh giới giữa lượt nói và "thời gian thực." Con đường này đang được chip và công cụ suy luận đẩy nhanh: Xiaomi MiMo đã đẩy mô hình 1T tham số vượt 1000 token/s trên nút 8-GPU đơn[^mimo], trong khi giải pháp chuyên dụng hardcode toàn bộ mô hình vào chip (như Taalas HC1) đẩy mô hình 8 tỷ tham số lên khoảng 17000 token/s với thời gian phản hồi dưới 100 mili giây[^taalas]. Khi mô hình có thể tuôn ra hàng nghìn từ mỗi giây, khoảng cách trải nghiệm giữa "suy nghĩ, sau đó nói" và "suy nghĩ trong khi nói" đơn giản bị xóa.

Đám mây thứ hai là cách Agent có thể, giống con người, tiếp tục tích lũy trải nghiệm từ thành công và thất bại của tương tác với môi trường. Mô hình ngày nay giống thiên tài với bộ nhớ tuyệt vời nhưng không thể học điều mới: trong quá trình đào tạo chúng ghi nhớ kiến thức con người đến chi tiết cuối cùng, nhưng một khi vào công việc, chúng hầu như không phát triển—sau mỗi tác vụ, những hố chúng đã rơi vào và mẹo chúng đã tìm ra phần lớn bị loại bỏ cùng context. Liệu đây có phải vấn đề thực phụ thuộc vào hai giả thuyết đối lập.

Một là "Giả thuyết Thế giới Nhỏ": mô hình đủ lớn—ví dụ, hàng nghìn tỷ tham số—đã chứa gần như tất cả kiến thức tổng quát quan trọng của thế giới vật lý; học một lần là đủ. Những người giữ quan điểm này (bao gồm nhà nghiên cứu tại OpenAI và Anthropic) sẽ chỉ ra rằng lập trình là lĩnh vực AI mạnh nhất ngày nay—không phải vì code đặc biệt với mô hình, mà vì lập trình là lĩnh vực mở nhất của nhân loại: lượng lớn mã nguồn mở nằm đó, sẵn sàng để học, trong khi hầu hết ngành không có thông tin hoặc dữ liệu công khai. Vì vậy những gì lab frontier thực sự đang làm là đi từng ngành, hợp tác với mỗi ngành để "chưng cất" năng lực chuyên môn vào cùng mô hình lớn. Theo quan điểm này, nút thắt không phải năng lực mô hình hay khả năng học, mà là có đủ dữ liệu hay không—đưa dữ liệu vào, đào tạo một lần, vấn đề được giải quyết.

Nhưng "Giả thuyết Thế giới Lớn" chỉ ra tầng mà "đào tạo một lần" không thể cung cấp: kiến thức đặc thù cho người dùng hoặc công ty cụ thể. Tiêu chuẩn code công ty bạn, gu PPT nhóm bạn và tính khí đặc trưng của khách hàng cụ thể đều vắng mặt trong mọi corpus đào tạo và liên tục thay đổi. Để phù hợp "thế giới lớn" này gồm vô số tình huống cụ thể, mô hình phải tiếp tục học sau triển khai; nó không thể đến từ nhà máy với mọi thứ được cấu hình. Đây chính xác là hướng được khám phá bởi bộ nhớ trong Chương 3 và tiến hóa liên tục trong Chương 8: trải nghiệm nên được ghi vào tài liệu kiến thức, hướng dẫn hay chương trình, hay trải nghiệm được chọn nên được sử dụng để cập nhật tham số mô hình? Rộng hơn, cả "AI for AI" và "AI for Science" đều đang đẩy Agent về phía frontier nơi không có câu trả lời sẵn có. Ở đó, Agent chỉ có thể học tự động từ lặp lại thành công và thất bại thử nghiệm thay vì quay lại con người cho mọi quyết định. Năng lực mạnh nhất của mô hình do đó cuối cùng sẽ không phải ghi nhớ, mà là học và thích ứng.

Không đám mây nào sẽ bị thổi bay bởi nâng cấp mô hình đơn lẻ. Để hiểu chúng cuối cùng sẽ được giải tán như thế nào, trước tiên chúng ta cần thấy một điều rõ ràng: mô hình và Agent chưa bao giờ là thượng nguồn và hạ nguồn của nhau; chúng tiến lên cùng nhau.

Sự Đồng tiến hóa của Mô hình và Agent

Hãy nhìn lại các tầng logic dự phòng trong những harness đó—nén context đa cấp, logic thử lại chỉ kích hoạt cầu dao sau hàng nghìn lần thất bại, kiểm tra quyền bi quan mặc định "không an toàn"—và mỗi đoạn "spaghetti code" có vẻ xấu xí ghi lại nơi mô hình vẫn lung lay. Khi thế hệ mô hình tiếp theo nội tại hóa các ràng buộc này, code tương ứng có thể bị xóa; và lý do mô hình có thể nội tại hóa chúng chính là Agent đã vấp qua những hố đó thay mặt mô hình trong kinh doanh thực, chưng cất bài học thành tín hiệu cho vòng đào tạo tiếp theo. Người dùng đặt ra thách thức thực; tầng ứng dụng sử dụng harness để vá những gì mô hình chưa thể làm tốt; những vá đó lần lượt trở thành tín hiệu đào tạo cho lần lặp mô hình tiếp theo. Đây là bánh đà tự củng cố, và chính bánh đà này dần đẩy hai đám mây đi.

Bánh đà này cũng trả lời câu hỏi treo trong Chương 1: mô hình cuối cùng sẽ nuốt Harness? Có—từng tầng. Mỗi năng lực mô hình nội tại hóa ổn định cho phép tầng Harness tương ứng bị xóa—mô hình tương tác của Chương 9 là một trường hợp: hành vi như ngắt và xen lời từng phải lắp ráp bằng harness bên ngoài bây giờ được tích hợp trực tiếp vào mô hình. Nhưng việc "nuốt" này sẽ không bao giờ hoàn thành. Thứ nhất, đào tạo mất tháng—mô hình có thể đợi, nhưng kinh doanh không thể. Thứ hai, mô hình không thể nội tại hóa mọi ràng buộc và sở thích của kinh doanh thực; luôn có ranh giới mới nhất cần logic bên ngoài làm dự phòng. Thứ ba, mỗi thế hệ mô hình mở ra frontier năng lực mới, và frontier chính xác là nơi mô hình ít đáng tin cậy nhất. Vì vậy Harness sẽ không biến mất; nó đơn giản tiếp tục di chuyển, cùng với mô hình, hướng tới mỗi frontier mới. Đây cũng là cách Bitter Lesson đọc trong thời đại Agent: phương pháp tổng quát sẽ thắng cuối cùng—nhưng mỗi đoạn đường bên trong "cuối cùng" đó được lát bởi Harness.

Và bánh đà quay nhanh nhất trong tay người giữ cả hai đầu. Điều Anthropic đang làm với Claude Code chính xác là: để mô hình và harness của chính nó nuôi nhau và đồng tiến hóa. Mô hình biết harness sẽ gọi nó như thế nào; harness biết ranh giới mô hình nằm ở đâu; mỗi thay đổi ở đầu này phản hồi đầu kia ngay lập tức. Trong một thí nghiệm, không thay đổi gì ngoài harness—cùng mô hình—đẩy độ chính xác tác vụ từ 52,8% lên 66,5%. Điều đó cho thấy leverage harness có ngày nay, nhưng nó cũng là nhắc nhở: harness có leverage đó chính xác vì mô hình chưa đạt được. Và vì lý do tương tự, chính bánh đà này là hào sâu nhất thời đại: kinh doanh thực, dữ liệu phản hồi và lặp mô hình càng khớp chặt, càng khó cho bất kỳ ai bắt kịp từ bên ngoài.

Điều này có ý nghĩa gì với bạn phụ thuộc vào bạn đứng đầu nào của bánh đà. Nếu bạn xây dựng mô hình, hào là làm cho bánh đà này quay—để phản hồi từ kịch bản thế giới thực chảy ngược vào đào tạo càng nhanh越好. Nếu bạn xây dựng ứng dụng trên mô hình, harness là leverage kỹ thuật ngắn hạn sắc bén nhất, nhưng hãy tỉnh táo: mỗi lần mô hình nội tại hóa tầng ràng buộc, nó sẽ—gần như lướt qua—xóa sạch một loạt lợi ích xây dựng trên harness alone. Hào thực sự bền vững ở tầng ứng dụng thường nằm ngoài công nghệ: dữ liệu độc quyền, kênh phân phối vững chắc, niềm tin người dùng, hiệu ứng mạng và các kịch bản phức tạp mà AI chưa thể xử lý và yêu cầu con người và Agent làm việc cùng nhau. Cách thận trọng là sử dụng harness để mua thời gian, và sử dụng thời gian đó để xây dựng rào cản ngoài công nghệ.

Vì vậy đừng lo lắng framework trong tay bạn sẽ trở nên lỗi thời. Mô hình lặp vài tháng; API cụ thể, sản phẩm và bảng xếp hạng đều sẽ đổi. Nhưng ba câu hỏi—nó thấy gì, nó có thể làm gì và làm thế nào xác minh nó làm đúng—sẽ không lỗi thời. Chúng mô tả không phải sử dụng mô hình cụ thể, mà là cách cơ bản hệ thống thông minh tương tác với thế giới. Nắm vững chúng, và bất kỳ năng lực mới nào thế hệ mô hình tiếp theo mang lại, bạn sẽ biết nó nằm ở đâu trong công thức—và bạn sẽ thấy ngay nó còn xa bao nhiêu để thổi bay hai đám mây đó.

Công nghệ Agent vẫn đang tiến hóa tốc độ tối đa; không cuốn sách nào có thể theo kịp mọi thay đổi. Nhưng nếu những gì cuốn sách này để lại cho bạn không phải là sử dụng cụ thể của API nào mà là khả năng phán tỉnh táo giữa sóng công nghệ, thì nó đã hoàn thành sứ mệnh. Tất cả văn bản, hình minh họa và code thí nghiệm đồng hành của cuốn sách này đều mã nguồn mở. Bạn được chào đón đến kho, chạy thí nghiệm bằng tay riêng và gửi issue và PR—giữa hiểu biết và xây dựng là con sông chỉ có thể vượt qua bằng tay. Và điều hấp dẫn nhất về Agent chính xác là: chúng có thể tạo năng lực mới bằng cách viết code, và thậm chí cải thiện chính mình. Đọc đến đây, bạn đã nắm nguyên tắc "sáng tạo." Bây giờ, hãy tạo điều gì đó.

[^mimo]: Xiaomi MiMo-V2.5-Pro-UltraSpeed, qua thiết kế đồng mô hình-hệ thống với FP4 quantization, DFlash parallel speculative decoding và hệ thống suy luận TileRT, đẩy tốc độ tạo của mô hình 1T tham số vượt 1000 token/s lần đầu trên nút 8-GPU đa năng đơn. Xem blog kỹ thuật chính thức Xiaomi MiMo, "Pushing 1T-Parameter Model Generation Speed to 1000 TPS," 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps

[^taalas]: Taalas HC1 hardcode toàn bộ mô hình Llama 3.1 8B lên chip 6nm, đạt khoảng 17000 token/s với thời gian phản hồi dưới 100 mili giây; đánh đổi là chip chỉ có thể chạy mô hình được hardcode, và cập nhật mô hình yêu cầu tape-out chip mới. Xem Karl Freund, "Taalas Launches Hardcore Chip With 'Insane' AI Inference Performance," Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/