Nhiều người hỏi: “Làm sao để AI nhớ được công việc của mình, khỏi phải giải thích lại từ đầu mỗi lần?”
Câu hỏi này thường mong chờ một danh sách mẹo kiểu 7 bước để AI nhớ việc. Nhưng thật ra chẳng có con số 7 nào cả, có thể là 3, có thể là 20, cũng có thể hàng nghìn, tùy công cụ và cách bạn tổ chức thông tin.
Vấn đề nằm ở chỗ bạn có hiểu bản chất vì sao AI nhớ được - hay không nhớ được. Hiểu bản chất rồi, bạn sẽ tự nghĩ ra cách phù hợp với việc của mình, thay vì rập khuôn mẹo của người khác.
AI không ‘nhớ’ theo cách bạn nghĩ
Con người nhớ vì có bộ não lưu trữ ký ức liên tục. AI thì khác hẳn. Một mô hình ngôn ngữ, về bản chất, không có ký ức mặc định giữa các lần trò chuyện. Mỗi khi bạn gửi một tin nhắn, AI xử lý dựa trên những gì đang có ngay trước mắt nó tại thời điểm đó - gọi là context (ngữ cảnh).
Context là toàn bộ những gì AI nhìn thấy khi trả lời bạn: tin nhắn bạn vừa gõ, các tin nhắn trước đó trong cùng cuộc trò chuyện, file bạn đính kèm, kết quả tìm kiếm nó vừa thực hiện. Tất cả gộp lại thành một khối thông tin, và AI dựa vào khối đó để suy luận ra câu trả lời.
Nhưng khối thông tin này không phải vô hạn. Nó có một giới hạn kích thước, gọi là context window (cửa sổ ngữ cảnh) - giống như một cái bàn làm việc có kích thước cố định. Bạn có thể trải bao nhiêu giấy tờ ra bàn cũng được, miễn là còn chỗ. Nhưng khi bàn đầy, muốn đặt thêm tờ mới thì phải cất bớt tờ cũ đi. Với AI cũng vậy: khi cuộc trò chuyện quá dài, những phần đầu tiên sẽ dần bị đẩy ra khỏi “tầm nhìn”, và AI không còn dựa vào chúng để trả lời nữa, dù về mặt kỹ thuật nó chưa hẳn “quên” hoàn toàn, mà đơn giản là những thông tin đó không còn nằm trong phần AI đang xử lý.
Đây là lý do vì sao một cuộc trò chuyện càng dài, AI càng dễ quên - nhắc lại điều bạn đã nói, hỏi lại thứ bạn đã giải thích, hoặc lạc hướng khỏi yêu cầu ban đầu. Cái bàn làm việc của nó đã chật.
Memory là gì, khác context ở đâu?
Nếu context window giống cái bàn làm việc trong một buổi, thì memory (bộ nhớ) giống như tủ hồ sơ được cất giữ qua nhiều buổi làm việc khác nhau. Một số công cụ AI hiện nay có khả năng lưu lại những thông tin quan trọng: sở thích của bạn, cách bạn muốn được hỗ trợ, các dự án đang làm,… rồi tự động mang ra dùng lại ở những cuộc trò chuyện sau, mà bạn không cần gõ lại từ đầu.
Nhưng bộ nhớ này không phải là AI “nhớ” theo nghĩa tự nhiên. Nó là một cơ chế được thiết kế: hệ thống chủ động chọn lọc, tóm tắt, và lưu trữ một số thông tin nhất định, rồi ở lần sau lại nạp thông tin đó vào context window để AI có thể sử dụng. Nói cách khác, memory chính là một cách nạp thêm dữ liệu vào cái bàn làm việc, chỉ khác là dữ liệu đó được lấy từ tủ hồ sơ thay vì bạn gõ tay ngay lúc đó.
Còn việc bạn chủ động sắp xếp, chọn lọc, đưa đúng thông tin cần thiết vào context ở đúng thời điểm - gọi là context management (quản lý ngữ cảnh). Đây mới chính là kỹ năng thật sự bạn cần rèn luyện. Không phải AI có nhớ hay không, mà là bạn có biết cách đưa đúng thứ, đúng lúc, vào đúng cái bàn làm việc có giới hạn kia hay không.
Ba lớp thông tin AI có thể dùng
Để quản lý context tốt, cần phân biệt rõ ba lớp thông tin mà AI có thể dựa vào:
Lớp một - thông tin trong phiên hiện tại. Đây là mọi thứ bạn đã gõ, đã đính kèm, trong đúng cuộc trò chuyện đang diễn ra. Lớp này biến mất (hoặc bị đẩy ra khỏi tầm nhìn) khi bạn mở cuộc trò chuyện mới hoặc khi nó quá dài.
Lớp hai - bộ nhớ dài hạn. Là những gì hệ thống lưu lại xuyên suốt nhiều phiên: sở thích, quy tắc làm việc, thông tin nền về bạn hoặc dự án. Lớp này tồn tại được là nhờ cơ chế memory chủ động ghi và nạp lại, không phải vì AI tự khắc nhớ.
Lớp ba - dữ liệu bên ngoài được truy xuất khi cần. Là tài liệu, file, kết quả tìm kiếm, dữ liệu từ công cụ khác mà AI chủ động lấy về để dùng cho đúng yêu cầu tại thời điểm đó, chứ không lưu trữ cố định trong bộ nhớ của nó.
Ba lớp này không thay thế nhau, mà bổ sung cho nhau. Nói cách khác, AI nhớ tốt không chỉ nhờ khả năng lưu trữ. AI nhớ tốt vì được cấp lại đúng thông tin vào đúng thời điểm.
Không cần bắt AI nhớ mọi thứ
AI nhớ càng nhiều chưa chắc càng tốt.
Một quy trình cũ có thể không còn đúng. Một tài liệu đã hết hạn có thể làm AI trả lời sai. Quá nhiều thông tin cũng khiến phần quan trọng bị chìm.
Điều cần làm không phải là đưa cho AI tất cả những gì bạn có, mà là chọn đúng những gì AI cần.
Trước khi giao việc, hãy kiểm tra bốn điều:
AI đã biết mục tiêu chưa?
AI có đúng tài liệu chưa?
AI biết ai sẽ sử dụng kết quả chưa?
AI đã biết những điều không được làm chưa?
Chỉ cần trả lời rõ bốn câu này, chất lượng kết quả thường đã thay đổi đáng kể.
Khi AI bắt đầu quên, cần làm gì?
Đừng vội sửa từng câu rồi tiếp tục kéo dài cuộc trò chuyện.
Hãy tóm tắt lại:
Mục tiêu đang làm.
Những quyết định đã thống nhất.
Dữ liệu quan trọng.
Yêu cầu về kết quả.
Việc cần làm tiếp theo.
Sau đó, bạn có thể tiếp tục hoặc mở một cuộc trò chuyện mới bằng bản tóm tắt đó.
Đây chính là cách giúp AI luôn nhìn thấy đúng thông tin vào đúng thời điểm.
Không có đúng 7 cách để AI nhớ tốt hơn. Có thể có hàng trăm cách, tùy công việc của mỗi người. Nhưng khi hiểu context, context window và bộ nhớ, bạn sẽ biết nên cung cấp tài liệu nào, khi nào cần nhắc lại và lúc nào nên bắt đầu một cuộc trò chuyện mới.
—
Để hiểu hơn về Context và Bộ nhớ, xem demo và tự thực hành với công việc của mình, mời bạn tham gia Workshop 04 - Context & Bộ nhớ của team THCAI 8PM ngày 22/08 tới đây.
Buổi học dành cho người không biết code. Bạn sẽ được hướng dẫn cách nạp đúng context, sử dụng tài liệu và tạo một tệp AGENTS.md đơn giản để Codex hiểu công việc của mình tốt hơn.