Bạn giao cho trợ lý AI một việc tưởng đơn giản: đọc email khách, tra đơn hàng, rồi soạn thư trả lời. Lần đầu nó làm rất ngon. Đến lượt thứ mười, nó bắt đầu nhầm tên khách, quên chính sách đổi trả và trả lời lạc đề. Mô hình không “ngu đi”. Thứ thay đổi là những gì đang nằm trên “mặt bàn làm việc” của nó.
Câu trả lời ngắn: Context engineering (kỹ thuật ngữ cảnh) là việc thiết kế và sắp xếp toàn bộ thông tin đưa vào cửa sổ ngữ cảnh của mô hình AI ở mỗi bước: chỉ dẫn, lịch sử, tài liệu, công cụ, bộ nhớ. Mục tiêu là đưa đúng thứ cần, đủ ít để AI không bị rối, nhờ vậy AI agent làm đúng việc và ổn định hơn.
Nếu bạn đã biết cửa sổ ngữ cảnh là “ô cửa” giới hạn mà AI nhìn qua, thì context engineering là nghệ thuật quyết định cái gì được đặt trước ô cửa đó. Bài viết này giải thích khái niệm, vì sao nó quan trọng hơn câu lệnh hay, bốn chiến lược cốt lõi, ví dụ thực tế trong văn phòng và cửa hàng, và cách người dùng bình thường cũng áp dụng được ngay.
Muốn hiểu nền tảng trước, bạn có thể xem video giải thích cửa sổ ngữ cảnh của kênh Vọc Sĩ bằng hình ảnh ô cửa và cuộn giấy, chỉ khoảng 3 phút:
Tóm tắt nhanh
- Mô hình AI chỉ “biết” những gì nằm trong cửa sổ ngữ cảnh ở lượt hiện tại, ngoài kiến thức đã học khi huấn luyện.
- Context engineering lo toàn bộ nội dung đó, không chỉ câu lệnh bạn gõ.
- Nhồi càng nhiều không càng tốt: ngữ cảnh dài và nhiễu làm AI trả lời kém đi (hiện tượng “context rot”).
- Bốn chiến lược chính: ghi ra ngoài, chọn lọc, nén, tách riêng.
- Người dùng thường cũng làm được: dùng Dự án, hướng dẫn tùy chỉnh, bản tóm tắt và mở cuộc trò chuyện mới đúng lúc.
Nội dung chính:
- Context engineering là gì?
- Vì sao prompt engineering thôi chưa đủ
- Ngữ cảnh của AI gồm những gì?
- Nhồi nhiều có tốt không? Context rot và ngân sách chú ý
- Bốn chiến lược context engineering
- Kỹ thuật cho AI agent chạy nhiều bước
- Ví dụ context engineering trong thực tế
- Cách áp dụng cho người dùng bình thường
- Hiểu lầm phổ biến
- Rủi ro bảo mật và quyền riêng tư
- Câu hỏi thường gặp
Context engineering là gì?
Mỗi lần bạn gửi tin nhắn, chatbot không “nhớ” cuộc trò chuyện theo kiểu con người. Phần mềm phía sau gom một gói chữ gồm chỉ dẫn ẩn của nhà phát triển, lịch sử trò chuyện, tệp bạn dán, kết quả tra cứu… rồi đưa cả gói vào mô hình. Gói chữ đó gọi là ngữ cảnh (context). Mô hình chỉ suy luận trên đúng gói này cộng với kiến thức có sẵn từ lúc huấn luyện.
Context engineering là công việc thiết kế gói chữ ấy một cách có chủ đích: lấy gì, bỏ gì, sắp theo thứ tự nào, tóm tắt ra sao, khi nào làm mới. Thuật ngữ này phổ biến từ tháng 6/2025, khi CEO Shopify Tobi Lütke viết rằng ông thích cụm “context engineering” hơn “prompt engineering”, vì nó mô tả đúng kỹ năng cốt lõi: cung cấp đủ ngữ cảnh để nhiệm vụ có thể giải được bởi mô hình. Vài ngày sau, nhà nghiên cứu Andrej Karpathy đồng tình và gọi đó là “nghệ thuật và khoa học” lấp đầy cửa sổ ngữ cảnh bằng đúng thông tin cho bước tiếp theo.
Ví von: đầu bếp và mặt bàn sơ chế
Hãy hình dung một đầu bếp giỏi. Công thức món ăn là câu lệnh (prompt). Nhưng món ngon hay dở còn phụ thuộc vào mặt bàn sơ chế: nguyên liệu nào đã được rửa sẵn, dao nào đặt gần tay, đồ thừa của món trước đã dọn chưa. Mặt bàn bừa bộn thì đầu bếp giỏi mấy cũng dễ cho nhầm muối thành đường. Context engineering chính là người phụ bếp sắp mặt bàn đó trước mỗi thao tác.

Vì sao prompt engineering thôi chưa đủ
Prompt engineering tập trung vào cách viết một câu lệnh tốt: nêu vai trò, mục tiêu, ví dụ, định dạng đầu ra. Cách này rất hiệu quả khi bạn hỏi một lượt và nhận một câu trả lời.
Nhưng AI ngày nay ngày càng làm việc theo kiểu AI agent: tự lên kế hoạch, gọi công cụ (tra cơ sở dữ liệu, đọc tệp, tìm web), nhận kết quả, rồi làm tiếp hàng chục bước. Sau mỗi bước, ngữ cảnh phình thêm kết quả công cụ, ghi chú, lỗi phát sinh. Câu lệnh ban đầu chỉ chiếm một phần nhỏ. Phần còn lại, nếu không ai quản lý, sẽ trở thành một đống giấy lộn trước ô cửa.
Nói gọn: prompt engineering hỏi “viết câu lệnh thế nào?”, còn context engineering hỏi “ở bước này, mô hình cần thấy những gì, và không nên thấy những gì?”.

| Tiêu chí | Prompt engineering | Context engineering |
|---|---|---|
| Đối tượng | Câu lệnh người dùng gõ | Toàn bộ gói chữ đưa vào mô hình |
| Thời điểm | Một lần, trước khi hỏi | Liên tục, ở mỗi bước |
| Phù hợp | Hỏi đáp một lượt, viết nội dung | Agent nhiều bước, trợ lý dùng lâu dài |
| Câu hỏi chính | Viết thế nào cho rõ? | Cần thấy gì, bỏ gì, lúc nào? |
Ngữ cảnh của AI gồm những gì?
Như video đã nói, mọi thứ trong ô cửa đều được đếm bằng token, tức những mảnh chữ nhỏ mà mô hình đọc và viết. Một gói ngữ cảnh điển hình của trợ lý AI gồm sáu nhóm:
- Chỉ dẫn hệ thống (system prompt): vai trò, quy tắc, giọng văn, điều cấm.
- Yêu cầu hiện tại của người dùng.
- Lịch sử trò chuyện: các lượt hỏi đáp trước, có thể nguyên văn hoặc đã tóm tắt.
- Bộ nhớ dài hạn: những điều được lưu lại giữa các phiên, như sở thích hay thông tin dự án.
- Tài liệu truy xuất: đoạn văn bản tìm được từ kho dữ liệu, kỹ thuật thường gọi là RAG.
- Công cụ và kết quả công cụ: mô tả các công cụ được phép dùng, cùng dữ liệu trả về sau mỗi lần gọi.
Điểm mấu chốt: tất cả cùng tranh nhau một chỗ có hạn. Mô tả công cụ dài dòng sẽ lấn chỗ của tài liệu. Lịch sử trò chuyện quá dài sẽ đẩy chỉ dẫn quan trọng vào “vùng giữa” dễ bị bỏ sót. Với tiếng Việt, câu chữ thường tốn token hơn tiếng Anh, nên chỗ trống còn hẹp hơn bạn tưởng.

Nhồi nhiều có tốt không? Context rot và ngân sách chú ý
Nhiều mô hình hiện nay có cửa sổ hàng trăm nghìn đến hơn 1 triệu token. Vậy cứ đổ hết vào cho chắc? Thực tế cho thấy không.
Tháng 7/2025, nhóm nghiên cứu của Chroma công bố báo cáo “Context Rot”, thử 18 mô hình ngôn ngữ lớn và ghi nhận chất lượng giảm dần khi đầu vào dài ra, kể cả với những nhiệm vụ rất đơn giản như tìm và lặp lại một thông tin. Họ gọi hiện tượng này là “ngữ cảnh mục rữa”. Anthropic, trong bài hướng dẫn về context engineering cho AI agent công bố cuối tháng 9/2025, mô tả ngữ cảnh như một nguồn lực hữu hạn có “ngân sách chú ý”: mỗi token thêm vào đều tiêu một chút sự chú ý của mô hình.
Lý do nằm ở cơ chế chú ý (attention) mà video đã nhắc: mô hình phải so từng cặp chữ với nhau. Càng nhiều chữ, sự chú ý càng bị chia mỏng. Ngoài ra, mô hình chủ yếu được huấn luyện với văn bản ngắn hơn nhiều so với giới hạn tối đa của nó.
Bốn kiểu ngữ cảnh làm hỏng câu trả lời
Kỹ sư Drew Breunig (6/2025) tổng kết bốn kiểu hỏng thường gặp, rất dễ nhận ra khi bạn dùng chatbot lâu:
- Nhiễm độc: một thông tin sai (thường do AI tự bịa ở bước trước) lọt vào ngữ cảnh rồi bị dùng lại mãi.
- Phân tâm: ngữ cảnh quá dài khiến mô hình bám vào lịch sử thay vì suy nghĩ cho vấn đề mới.
- Nhầm lẫn: thông tin thừa, chẳng hạn quá nhiều công cụ, khiến mô hình chọn sai.
- Mâu thuẫn: hai phần ngữ cảnh nói ngược nhau, ví dụ yêu cầu cũ và yêu cầu mới.

Bài học: mục tiêu không phải ngữ cảnh dài nhất, mà là tập token nhỏ nhất nhưng giàu thông tin nhất để mô hình làm tốt bước đang làm.
Bốn chiến lược context engineering
Tháng 6/2025, nhóm LangChain gom các kỹ thuật quản lý ngữ cảnh thành bốn nhóm dễ nhớ. Đây là khung tư duy được nhắc nhiều nhất hiện nay.
1. Ghi ra ngoài (write)
Thay vì giữ mọi thứ trong ô cửa, agent ghi chú ra một “sổ nháp” bên ngoài: kế hoạch, tiến độ, những gì đã thử. Khi cần mới đọc lại. Giống bạn ghi việc cần làm ra giấy thay vì cố nhớ trong đầu.
2. Chọn lọc (select)
Chỉ kéo vào ô cửa những thứ liên quan đến bước hiện tại: đúng vài đoạn tài liệu, đúng vài công cụ cần dùng, đúng mẩu ký ức phù hợp. Đây là chỗ RAG và tìm kiếm ngữ nghĩa phát huy tác dụng.
3. Nén (compress)
Tóm tắt lịch sử dài thành vài dòng cốt lõi, hoặc cắt bớt kết quả công cụ cũ không còn cần. Video đã nhắc cách “tóm tắt phần cũ rồi giữ lại”: đó chính là nén.
4. Tách riêng (isolate)
Chia việc lớn cho nhiều agent con, mỗi agent có ô cửa riêng sạch sẽ. Agent con đọc hàng chục trang, rồi chỉ gửi về bản tóm tắt ngắn cho agent chính.

Kỹ thuật cho AI agent chạy nhiều bước
Với những việc kéo dài hàng giờ, như agent lập trình sửa cả một dự án hay agent nghiên cứu đọc hàng trăm trang, Anthropic gợi ý ba kỹ thuật cụ thể, có thể xem là cách triển khai của bốn chiến lược trên.
Nén hội thoại (compaction)
Khi ngữ cảnh gần đầy, agent tự tóm tắt cuộc làm việc: quyết định đã chốt, lỗi còn mở, tệp đang sửa. Rồi bắt đầu lại với bản tóm tắt đó thay cho toàn bộ lịch sử. Phần khó là chọn giữ gì: tóm quá tay thì mất chi tiết quan trọng mà sau này mới cần.
Ghi chú có cấu trúc
Agent duy trì một tệp ghi chú, kiểu danh sách việc cần làm hay nhật ký tiến độ, nằm ngoài ô cửa. Sau mỗi lần nén, nó đọc lại tệp để biết mình đang ở đâu. Cách này giúp agent làm việc liên tục qua nhiều “ca” mà không mất mạch.
Kiến trúc agent con
Agent chính chỉ giữ kế hoạch tổng. Mỗi agent con nhận một nhánh việc, tự khám phá với ngữ cảnh riêng và trả về kết quả cô đọng, thường chỉ vài nghìn token. Nhờ vậy ô cửa của agent chính luôn gọn.
Truy xuất “vừa kịp lúc”
Thay vì nạp sẵn mọi tài liệu, agent chỉ giữ “địa chỉ” (tên tệp, đường dẫn, câu truy vấn) và tự mở ra khi cần. Giống cách bạn không mang cả thư viện theo người mà chỉ nhớ sách nằm kệ nào.


Ví dụ context engineering trong thực tế
Trợ lý chăm sóc khách hàng của một cửa hàng
Giả sử bạn dựng chatbot trả lời khách cho cửa hàng điện máy. Cách làm kém: dán cả cuốn chính sách 80 trang và toàn bộ danh mục sản phẩm vào chỉ dẫn hệ thống. Chatbot chạy chậm, tốn tiền, và hay trích nhầm điều khoản.
Cách làm có context engineering: chỉ dẫn hệ thống ngắn gọn (vai trò, giọng văn, điều cấm). Khi khách hỏi đổi trả, hệ thống mới kéo đúng mục đổi trả. Khi khách đưa mã đơn, công cụ tra đơn trả về đúng 5–6 trường cần thiết (trạng thái, ngày giao, sản phẩm) thay vì cả bản ghi dài. Hội thoại dài thì tóm tắt lại những gì khách đã xác nhận.

Agent lập trình và tệp hướng dẫn dự án
Các công cụ lập trình bằng AI thường đọc một tệp hướng dẫn đặt trong thư mục dự án, như CLAUDE.md hay AGENTS.md. Tệp ghi cách chạy kiểm thử, quy ước đặt tên, những thư mục không được sửa. Đây là context engineering ở dạng đơn giản nhất: viết một lần, agent đọc lại mỗi phiên, khỏi phải dặn đi dặn lại.
Tự động hoá văn phòng
Một quy trình tự động xử lý hoá đơn qua email có thể chia ba agent: agent đọc thư và trích số liệu, agent đối chiếu với đơn mua, agent soạn báo cáo. Mỗi agent chỉ thấy phần việc của mình, dữ liệu truyền qua lại ở dạng bảng gọn. Kết quả ổn định hơn nhiều so với để một agent ôm cả hộp thư.
Cách áp dụng context engineering cho người dùng bình thường
Bạn không cần viết code vẫn hưởng lợi từ tư duy này. Bảy thói quen dưới đây giúp chatbot trả lời đúng và nhất quán hơn.
1. Đặt bối cảnh cố định vào hướng dẫn tùy chỉnh hoặc Dự án
Thông tin dùng lặp lại (nghề nghiệp, giọng văn mong muốn, quy định công ty) nên để trong phần hướng dẫn tùy chỉnh hoặc tính năng Dự án (Projects) của chatbot, thay vì gõ lại mỗi lần.
2. Mỗi cuộc trò chuyện một việc
Đừng dùng một cuộc trò chuyện cho cả việc viết email, tính bảng lương và lên thực đơn. Chủ đề lẫn lộn là nguyên nhân hàng đầu của kiểu hỏng “nhầm lẫn”.
3. Dán đúng phần cần, không dán cả tài liệu
Cần hỏi về điều 5 của hợp đồng thì dán điều 5 và phần định nghĩa liên quan, không cần cả 40 trang.
4. Đặt yêu cầu chính ở cuối
Khi dán tài liệu dài, để tài liệu trước và câu hỏi sau cùng, đúng như mẹo trong video: thông tin ở cuối thường được chú ý tốt hơn phần giữa.
5. Tự tóm tắt rồi mở cuộc mới
Cuộc trò chuyện đã dài, hãy nhờ AI tóm tắt các quyết định đã chốt, rồi mở cuộc mới và dán bản tóm tắt vào đầu. Đây chính là “nén hội thoại” làm bằng tay.
6. Sửa ngay khi AI nói sai
Thông tin sai để lại trong ngữ cảnh sẽ bị dùng tiếp. Hãy đính chính rõ ràng, hoặc sửa tin nhắn gốc rồi gửi lại thay vì cãi qua lại nhiều lượt.
7. Bật ít công cụ, ít tiện ích hơn
Nếu chatbot cho phép bật nhiều tiện ích kết nối, chỉ bật những cái việc hiện tại cần. Mô tả mỗi công cụ đều chiếm chỗ trong ô cửa.

Hiểu lầm phổ biến về context engineering
“Cửa sổ ngữ cảnh lớn thì khỏi cần quan tâm”
Như video nói, ô cửa lớn chỉ là chiếc bàn rộng hơn, không phải bộ óc lớn hơn. Bàn càng rộng càng dễ bày bừa, và context rot vẫn xảy ra.
“Context engineering chỉ là tên mới của prompt engineering”
Viết câu lệnh tốt vẫn quan trọng, nhưng chỉ là một phần. Context engineering còn gồm truy xuất dữ liệu, quản lý bộ nhớ, thiết kế công cụ và nén lịch sử, phần lớn diễn ra tự động trong hệ thống.
“Càng nhiều ví dụ, càng nhiều quy tắc càng tốt”
Danh sách quy tắc dài dằng dặc dễ mâu thuẫn nhau. Vài ví dụ tiêu biểu, đa dạng thường hiệu quả hơn hàng chục trường hợp ngoại lệ.
“Chỉ lập trình viên mới cần biết”
Người dùng văn phòng áp dụng được ngay bằng các thói quen ở phần trên, và hiểu vì sao chatbot “quên” sẽ giúp bạn bớt bực mình.

Rủi ro bảo mật và quyền riêng tư khi “nạp” ngữ cảnh
Mọi thứ đưa vào ngữ cảnh đều có thể ảnh hưởng tới hành vi của AI, và có thể bị lộ ra trong câu trả lời. Ba rủi ro cần lưu ý:
- Chèn lệnh gián tiếp: trang web hay email mà agent đọc có thể chứa câu lệnh ẩn. Khi lọt vào ngữ cảnh, nó có thể điều khiển agent. Xem thêm bài prompt injection là gì.
- Lộ dữ liệu: dán danh sách khách hàng, số điện thoại hay thông tin nội bộ vào chatbot đồng nghĩa với gửi chúng cho nhà cung cấp dịch vụ. Hãy ẩn hoặc rút gọn thông tin cá nhân trước khi dán.
- Phân quyền lỏng: chatbot nội bộ kéo tài liệu từ kho chung cần tôn trọng quyền truy cập, nếu không nhân viên có thể hỏi ra tài liệu mình không được xem.
Nguyên tắc chung: ngữ cảnh tốt không chỉ là đúng và gọn, mà còn là chỉ chứa những gì được phép.

Câu hỏi thường gặp về context engineering
Context engineering khác gì RAG?
RAG là một kỹ thuật cụ thể: tìm đoạn tài liệu liên quan rồi đưa vào ngữ cảnh. Context engineering rộng hơn, bao gồm RAG cùng với chỉ dẫn hệ thống, bộ nhớ, công cụ, nén lịch sử và chia agent. Có thể xem RAG là một công cụ trong chiến lược “chọn lọc”.
Vì sao chatbot vẫn quên dù có tính năng bộ nhớ?
Tính năng bộ nhớ chỉ lưu vài thông tin tóm tắt và chèn lại vào ngữ cảnh khi phù hợp. Chi tiết trong một cuộc trò chuyện dài vẫn có thể bị cắt hoặc tóm tắt khi ô cửa đầy, và hệ thống có thể chọn không đưa một ký ức vào nếu thấy không liên quan.
Context engineering có giúp tiết kiệm chi phí API không?
Có. Chi phí và độ trễ tăng theo số token đầu vào. Ngữ cảnh gọn hơn nghĩa là mỗi lượt gọi rẻ và nhanh hơn. Nhiều nhà cung cấp còn giảm giá cho phần ngữ cảnh lặp lại được lưu đệm, nên giữ phần đầu ngữ cảnh ổn định cũng là một mẹo tiết kiệm.
Người mới nên bắt đầu học context engineering từ đâu?
Hãy nắm chắc ba khái niệm nền: token, cửa sổ ngữ cảnh và RAG. Sau đó thử dựng một chatbot nhỏ với tài liệu của bạn, quan sát nó sai ở đâu, rồi thử chọn lọc, nén và tách việc. Các bài hướng dẫn của Anthropic và LangChain năm 2025 là tài liệu tiếng Anh dễ đọc.
Có cần cửa sổ ngữ cảnh 1 triệu token không?
Với phần lớn công việc hằng ngày thì không. Cửa sổ lớn hữu ích khi cần đọc trọn tài liệu rất dài một lần, nhưng chất lượng vẫn phụ thuộc vào việc sắp xếp. Một ngữ cảnh 20.000 token gọn gàng thường cho kết quả tốt hơn 500.000 token bừa bộn.
Kết luận
Context engineering là bước trưởng thành tự nhiên của cách chúng ta làm việc với AI. Khi AI chỉ trả lời một câu, câu lệnh hay là đủ. Khi AI trở thành agent làm việc nhiều bước, chất lượng phụ thuộc vào việc ai đó sắp xếp đúng thứ lên mặt bàn ở mỗi bước: ghi ra ngoài, chọn lọc, nén và tách riêng. Hiểu điều này, bạn sẽ biết vì sao chatbot “quên”, và biết cách giúp nó nhớ đúng thứ cần nhớ.
Nếu bạn chưa xem, hãy xem video về cửa sổ ngữ cảnh ở đầu bài để có hình dung trực quan. Bạn từng gặp chatbot quên điều mình vừa nói chưa, và bạn xử lý thế nào? Hãy chia sẻ ở phần bình luận, và theo dõi Nhật Phúc để đọc thêm các bài giải thích AI dễ hiểu.
Bình luận
Chưa có bình luận nào. Bạn có câu hỏi hay kinh nghiệm riêng về chủ đề này? Hãy là người mở đầu.