(Việt hoá chuẩn) Memory and Dreaming - AI học kinh nghiệm từ chính nó | Mahesh - Product Manager

Tóm tắt ngắn gọn

Video giới thiệu về tính năng "Bộ nhớ" và "Giấc mơ" mới của Anthropic trong API Managed Agents, giúp các tác nhân AI tự học, tiến hóa và hoàn thiện hơn dựa trên kinh nghiệm.

  • Bộ nhớ: Cho phép tác nhân AI lưu trữ và truy xuất thông tin về nhiệm vụ, môi trường và tương tác với các tác nhân khác.
  • Giấc mơ: Quy trình xử lý hàng loạt, chạy song song để phân tích các phiên làm việc gần đây, tìm kiếm các mẫu hành vi và sai sót, từ đó tự động tạo nội dung ghi nhớ được tổ chức và luôn cập nhật.
  • Lợi ích: Tăng hiệu quả, giảm chi phí, cải thiện tốc độ phản hồi, tránh lặp lại sai lầm, và giúp các tác nhân AI thông minh hơn theo thời gian.

Giới thiệu

Mahesh, một quản lý sản phẩm tại Anthropic, giới thiệu về bộ nhớ, một công cụ nền tảng quan trọng cho các tác nhân AI tiên tiến. Anh giải thích lý do Anthropic đầu tư vào bộ nhớ và cách họ thiết kế hệ thống bộ nhớ cho các tác nhân AI. Anh cũng giới thiệu Dreaming, một sản phẩm mới ra mắt trong bản xem trước Research Preview qua API Managed Agents.

Nền tảng AI và các công cụ hỗ trợ

Khả năng của các tác nhân AI đã được cải thiện nhanh chóng trong vài năm qua, cho phép chúng đảm nhận các tác vụ phức tạp và kéo dài. Anthropic đã đầu tư vào việc xây dựng các khả năng và công cụ nền tảng cao cấp để giúp Claude và các tác nhân AI khác vượt qua giới hạn, tiếp cận thông tin từ môi trường xung quanh và tự quản lý. Các công cụ như MCP, Claude Code, Agent SDK và Skills đã giúp Claude thực hiện nhiệm vụ mạnh mẽ hơn trong thời gian dài hơn.

Tầm quan trọng của bộ nhớ

Bộ nhớ là công cụ cơ bản tiếp theo giúp tạo ra các tác nhân tự học, tự tiến hóa và ngày càng hoàn thiện. Nhờ có bộ nhớ, các tác nhân có thể học hỏi về nhiệm vụ, môi trường và các tác nhân khác, chia sẻ bài học, tìm ra lỗi và cập nhật thông tin. Bộ nhớ tự quản rất quan trọng trong các hệ thống lớn, phức tạp như Claude, nơi nhiều tác nhân cùng hoạt động để xây dựng hiểu biết và hình thành mô hình riêng.

Ra mắt tính năng Bộ nhớ và Claude Managed Agents

Anthropic chính thức ra mắt tính năng Bộ nhớ và Claude Managed Agents, mang lại cho nhà phát triển hệ thống bộ nhớ tiên tiến để tối ưu hóa các hệ thống nhiều tác nhân. Tính năng này hỗ trợ doanh nghiệp và đội ngũ phát triển sự linh hoạt và kiểm soát cần thiết để triển khai các hệ thống này trong môi trường vận hành. Rakuten đã chia sẻ rằng nhờ bộ nhớ, họ đã có thể tránh lặp lại những sai lầm trong quá khứ lên đến 90%.

Yêu cầu khi xây dựng bộ nhớ

Khi xây dựng bộ nhớ, Anthropic tập trung vào việc tối đa hóa trí thông minh của AI. Họ đã ra mắt Claude.md và công cụ bộ nhớ trong SDK, nhưng sau đó giảm can thiệp để Claude tự do hơn trong việc quản lý môi trường ảo và hệ thống tập tin của riêng mình. Bộ nhớ trong các tác nhân Claude được tổ chức như một hệ thống tập tin, với các tệp được tổ chức theo cấu trúc và định dạng mà Claude có thể tự quản lý và cập nhật.

Khả năng mở rộng cho các hệ thống đa tác tử

Anthropic hướng tới khả năng mở rộng cho các hệ thống đa tác tử. Họ đã bắt đầu áp dụng các tác tử đa song song ngay trong Claude Code, với hàng nghìn tác nhân AI đang chạy song song, cùng tương tác với một tập hợp trạng thái chung và dùng chung bộ nhớ. Điều này đòi hỏi khả năng linh hoạt kết hợp giữa phiên hiện tại và các kho nhớ, phạm vi quyền hạn và khả năng xử lý đa nhiệm.

Kiểm soát từ nhà phát triển và doanh nghiệp

Anthropic nhận ra tầm quan trọng của việc kiểm soát từ nhà phát triển và doanh nghiệp cho các tác nhân AI thực tế. Tính năng được mong chờ nhất là version history, cho phép xem toàn bộ quá trình kiểm toán, ghi lại nhật ký mọi lần cập nhật bộ nhớ và cung cấp thông tin định danh để xác định chính xác tác nhân nào đã thực hiện việc cập nhật. API độc lập cũng được tạo ra để khách hàng tự kiểm soát các chức năng bổ sung.

Các lớp khác nhau của hệ thống ghi nhớ

Anthropic phác họa các lớp khác nhau mà họ cần làm việc, bao gồm lớp lưu trữ, cấu trúc và nội dung, và quy trình xử lý. Họ quyết định mô phỏng tệp tin và bộ nhớ dưới dạng file trong hệ thống lưu trữ của Claude. Họ cũng xem xét kỹ năng như trí nhớ thủ tục và cách hướng dẫn AI học để thực hiện khả năng mới.

Giới thiệu về "Giấc mơ"

Anthropic nhận thấy nhiều hạn chế trong các hệ thống đa tác nhân phức tạp, như thiếu dữ liệu trong bộ nhớ và các phiên làm việc, lỗi lặp lại và khó khăn trong việc duy trì kho lưu trữ bộ nhớ quy mô lớn. Vì vậy, họ đã thử nghiệm và chọn ra giải pháp "Giấc mơ", một quy trình xử lý theo lô chạy song song để tìm kiếm các mẫu hành vi và sai sót, đồng thời tự động tạo nội dung ghi nhớ được tổ chức và luôn cập nhật.

Cách "Giấc mơ" hoạt động

"Giấc mơ" chạy độc lập với công việc chính, có thể được tắt hoặc kích hoạt theo lịch trình tự động hoặc thông qua API. Nó rà soát kỹ các bản ghi gần đây để tìm lỗi thường gặp, chiến lược hiệu quả và cơ hội cập nhật bộ nhớ. Nó tạo ra trạng thái bộ nhớ mới, giúp bạn cập nhật ngay vào kho lưu trữ của Claude hoặc kiểm tra thủ công qua API.

Lợi ích của "Giấc mơ"

"Giấc mơ" diễn ra ngoài luồng, mang lại lợi ích là phù hợp với các hệ thống đa tác nhân, giúp quan sát nhiều tác nhân cùng lúc, phát hiện những mẫu hình và bài học chung mà một tác nhân đơn lẻ có thể bỏ sót. Nó cũng giúp tách biệt mục tiêu nâng cao chất lượng trí nhớ khỏi nhiệm vụ hoàn thành công việc và không làm tăng độ trễ cho quy trình chính của tác nhân.

Tích hợp hệ thống bộ nhớ quy mô lớn

"Giấc mơ" giúp Claude mở rộng hệ thống ghi nhớ lên quy mô rất lớn, vừa mới mẻ, cập nhật, lại không tốn nhiều token. Nó tuân theo các quy tắc mở rộng quy mô tương tự khi dùng Claude, cần thêm tài nguyên và công sức để giữ hệ thống ghi nhớ luôn ngăn nắp. Nó cũng giống như một hệ thống tìm kiếm, nơi chúng ta dành công sức ngay từ đầu để tạo chỉ mục chất lượng cao, luôn cập nhật để dùng cho các bước tiếp theo.

Tổng quan về hệ thống trí nhớ tiên tiến

Hệ thống trí nhớ tiên tiến bao gồm công cụ giúp tác nhân AI đọc thông tin ngay lập tức theo thời gian thực và ghi chép, lưu nhớ thông tin khi làm việc, và "Giấc mơ" là quy trình toàn diện để kiểm tra thông tin, quản lý, sắp xếp và bổ sung thông tin cho bộ nhớ dựa trên những nhiệm vụ mà các tác nhân AI thực hiện.

Demo về tác nhân SRE

Demo về tác nhân SRE theo dõi các cảnh báo và phản ứng dựa trên thông tin đó. Mỗi tác nhân có kho lưu trữ kiến thức dùng chung và bộ nhớ lưu trữ dựa trên mã nguồn. Khi nhận cảnh báo, tác nhân SRE sẽ điều tra, ghi lại các bài học và lưu vào kho lưu trữ trí nhớ. Khi cảnh báo tương tự được gửi đi, tác nhân SRE khác sẽ đọc ghi chú trong bộ nhớ và bỏ qua thông tin này, tiết kiệm thời gian điều tra.

Kiểm soát và theo dõi trong doanh nghiệp

Khi dùng trong doanh nghiệp, cần đảm bảo độ tin cậy và theo dõi được cách ra quyết định. Lịch sử phiên bản ghi lại mỗi lần cập nhật, cho phép quay ngược thời gian xem chính xác điều gì đã xảy ra và biết được tác nhân nào đã thực hiện thay đổi. Mã băm điều kiện giúp kiểm tra xem thông tin có đúng không trước khi ghi đè.

Demo về "Giấc mơ"

Demo về "Giấc mơ" cho thấy cách nó cập nhật và tạo một ký ức cụ thể. Nó xem xét nhiều phiên làm việc, xem qua các bản ghi, xác định những bài học rút ra và cập nhật trạng thái bộ nhớ. Nó tạo ra bản diff, tập hợp các tệp cập nhật để áp dụng vào kho lưu trữ bộ nhớ, loại bỏ thông tin trùng lặp và tinh lọc dữ liệu.

Kết luận

Trong vài tháng tới, các tác nhân AI sẽ hoạt động liên tục nhiều ngày hoặc nhiều giờ đồng hồ, và trí nhớ sẽ đóng vai trò then chốt trong hệ thống đó. Anthropic rất háo hức xem mọi người xây dựng gì với Memory và Dreaming trong Cloud Managed Agents API.

Summarize any YouTube video in seconds

Get summaries like this one for any video, in your language, with the free Summ app.

Download on the Apple Store
Get it on Google Play

Transcript

YouTube Transcript Generator

0:00 Đừng bắt tôi phải đi nhé. Xin chào, chào mừng mọi người. Chào mọi người! Rất vui được gặp các bạn. Tôi là Mahesh, một quản lý sản phẩm tại đây. Tôi cũng làm việc tại đội nền tảng của Anthropic. Trong một năm rưỡi qua, tôi đã có cơ hội làm việc với các thành phần nền tảng như MCP và và kỹ năng, hôm nay tôi muốn chia sẻ về một công cụ nền tảng mà tôi rất háo hức giới thiệu tiếp theo. đó chính là bộ nhớ. Tôi sẽ giải thích lý do tại sao chúng tôi cho rằng bộ nhớ lại quan trọng đến vậy và Tại sao Anthropic dành nhiều thời gian cho nó và cách chúng tôi thiết kế hệ thống bộ nhớ. dành cho các tác nhân AI tiên tiến, và tôi rất háo hức chia sẻ về Dreaming.

0:45 Sản phẩm mới hôm nay ra mắt trong bản xem trước Research Preview qua API Managed Agents. AI nhờ đó, khả năng của các tác nhân AI đã được cải thiện rất nhanh chóng trong vài năm qua. chúng có thể đảm nhận các tác vụ tốn nhiều giờ và chạy liên tục trong hàng giờ. Hoặc kéo dài gần cả ngày. Khi các mô hình và tác nhân AI ngày càng thông minh, chúng tôi cũng đã đầu tư vào Xây dựng các khả năng và công cụ nền tảng ngày càng cao cấp, giúp Claude và Anthropic vượt qua giới hạn đó. cho phép chúng tiếp cận thêm những thông tin từ môi trường xung quanh. và những thứ mà chúng có thể tự quản lý, dần dần trở nên mạnh mẽ hơn theo thời gian. Ví dụ, chúng tôi ra mắt MCP, giúp các tác nhân AI truy cập dữ liệu bên ngoài.

1:31 Chúng tôi cũng đã phát triển các công cụ và hệ thống dữ liệu mạnh mẽ, điển hình như Claude Code. và bộ công cụ phát triển tác nhân (Agent SDK). Tháng 10, chúng tôi ra mắt Skills, giúp Claude và Anthropic học ngay kỹ năng mới. hoặc do chính con người và người dùng tương tác với chúng đã tự thiết kế và chia sẻ. để chúng tự phát triển. Mỗi công cụ cơ bản giúp Claude và Anthropic thực hiện nhiệm vụ mạnh mẽ hơn trong thời gian dài hơn. tuy nhiên, chúng tôi vẫn cho rằng vẫn còn một số vấn đề chưa được giải quyết triệt để, đó chính là khả năng hoạt động liên tục. tự học và quản lý ngữ cảnh cho các nhiệm vụ kéo dài. Vì vậy, bộ nhớ chính là công cụ cơ bản tiếp theo. Đó là chìa khóa giúp chúng ta tạo ra các tác nhân tự học, tự tiến hóa và ngày càng hoàn thiện. dựa trên nhiệm vụ đang làm và kinh nghiệm của chính chúng.

2:20 Nhờ có bộ nhớ, các tác nhân có thể học hỏi về những nhiệm vụ chúng đang thực hiện, chẳng hạn như tiêu chí thành công, sai lầm thường gặp và các chiến lược hiệu quả hay chưa. Chúng còn học được về môi trường như kho mã nguồn, tập tin mà chúng tương tác. các tài nguyên mà Claude và Anthropic luôn cập nhật. Hơn nữa, chúng còn học hỏi từ các tác nhân khác trong cùng môi trường. Chúng có thể chia sẻ bài học, tìm ra lỗi trong hệ thống và cập nhật ngay lập tức. và lưu vào bộ nhớ của Claude. Và tôi tin rằng chính điểm cuối cùng này là điều khiến tôi hào hứng nhất trong năm nay và cả vài tháng tới. Tôi tin bộ nhớ tự quản sẽ rất quan trọng trong các hệ thống lớn, phức tạp như Claude của Anthropic. đó là những hệ thống đa tác tử, nơi một đàn tác tử cùng hoạt động trong một môi trường tương tự để

3:05 Từng nhiệm vụ riêng lẻ tự xây dựng hiểu biết và hình thành mô hình riêng của mình. và theo thời gian, chúng dần hình thành bức tranh thế giới quanh mình. Vì vậy, để hiện thực hóa tầm nhìn này, chúng tôi vừa chính thức ra mắt tính năng Bộ nhớ và Claude Managed Agents đã ra mắt bản beta công khai vài tuần trước. Điều này mang lại cho nhà phát triển hệ thống bộ nhớ tiên tiến, dùng ngay để tối ưu hóa nhờ đó, các hệ thống nhiều tác nhân chạy cùng lúc sẽ có trí thông minh mặc định. cùng lúc trong một môi trường, quan trọng nhất là hỗ trợ doanh nghiệp và đội ngũ phát triển sự linh hoạt và kiểm soát cần thiết để họ triển khai thực tế các hệ thống này trong môi trường vận hành. trong môi trường doanh nghiệp. Chúng tôi đã lắng nghe ý kiến từ nhiều đội ngũ khác nhau Dựa trên điều này, mọi người đều cho rằng nó giúp họ học hỏi liên tục và

3:53 Các tác nhân tự cải thiện liên tục nhanh hơn nhiều. Chẳng hạn, Rakuten đã chia sẻ rằng nhờ vậy, họ đã có thể tránh lặp lại những sai lầm trong quá khứ. trong các tác nhân tri thức nội bộ của họ lên đến 90%, bởi vì các tác nhân này có thể phát hiện ra các lỗi và chia sẻ chúng cho thế hệ tác nhân tiếp theo, nhờ đó giúp tối ưu hóa hiệu quả xử lý. và giảm chi phí, đồng thời cải thiện tốc độ phản hồi, bởi vì họ đã bắt đầu triển khai các hệ thống ghi nhớ. Tôi muốn chia sẻ về các yêu cầu chúng tôi lưu tâm và nhận ra khi trao đổi với khách hàng xây dựng cùng Claude, Anthropic. Điều đầu tiên và quan trọng nhất là xây dựng bộ nhớ để tối đa hóa trí thông minh của AI bằng cách Mặc định, các nhà xây dựng tác nhân đã thiết kế các hệ thống bộ nhớ này trong một thời gian dài. Chúng tôi đã ra mắt Claude.md, ban đầu đi kèm Claude Code, khoảng thời gian đó.

4:42 Cách đây một năm rưỡi, chúng tôi đã giới thiệu một phiên bản bộ nhớ còn khá hạn chế, trong đó Agent có thể tự ghi chú. Đôi khi, người dùng cũng để ghi chú trong cùng tệp lưu trữ này. Chúng tôi cũng ra mắt công cụ bộ nhớ trong SDK, với hướng dẫn sử dụng rất chi tiết. Công cụ hỗ trợ gọi với tham số và định dạng đầu ra cụ thể. API mà các nhà phát triển có thể dùng. Khi các tác nhân thông minh tiến bộ, chúng tôi đã giảm can thiệp để Claude tự do hơn và trao quyền cho Claude tự quyết định nhiều hơn mà không áp đặt quá nhiều ràng buộc lên thiết kế. những công cụ hỗ trợ này. Giống như với kỹ năng, chúng tôi đi đến kết luận rằng, Chào bạn, các tác nhân thông minh có thể tự quản lý môi trường ảo và hệ thống tập tin của riêng mình. Sao không áp dụng hướng tiếp cận đó cho bộ nhớ?

5:29 Bộ nhớ trong các tác nhân Claude được tổ chức như một hệ thống tập tin. Với Claude, đây là chuỗi tệp được tổ chức theo cấu trúc và định dạng mà Claude có thể tự quản lý. và tự cập nhật. Nó có thể sử dụng các công cụ quen thuộc như Bash và Grep để cập nhật hệ thống này. Nó dùng bộ nhớ để giữ thông tin ngăn nắp và tự điều chỉnh ngay khi bắt đầu làm nhiệm vụ. Điều này cũng khớp với những gì chúng ta thấy ở các mô hình Claude và Anthropic mới nhất. Với Claude Opus 4.7 vừa ra mắt tháng trước, chúng tôi thấy nó dẫn đầu ngành. bộ nhớ dựa trên hệ thống tệp. Nó giúp phân biệt rõ nội dung nào nên lưu vào bộ nhớ và nội dung nào thực sự đáng giá. Nó ghi nhớ tốt hơn và tự tìm ra cấu trúc lưu trữ phù hợp nhất. Nên chia bộ nhớ thành bao nhiêu tệp?

6:15 Làm sao để sắp xếp gọn gàng trong hệ thống tập tin? Và cuối cùng, mọi thứ đều chạy chỉ nhờ công cụ bash và grep vốn đã tạo nên sức mạnh của Claude. Claude xuất sắc trong lập trình tự chủ. Một điều khác nữa là Khi thiết kế bộ nhớ, chúng tôi hướng tới khả năng mở rộng cho các hệ thống đa tác tử. Chúng tôi sẽ phát triển trong vài tháng tới. Chúng tôi đã bắt đầu áp dụng các tác tử đa song song ngay trong Claude Code. Hiện tại, có rất nhiều người dùng đang chạy đồng thời từ 10 đến 15 phiên làm việc với Claude Code. Đồng thời, chúng tôi cũng thấy điều này trong môi trường doanh nghiệp, bao gồm cả các tập đoàn lớn. Tại Anthropic, có hàng trăm, thậm chí hàng nghìn người làm được điều này. Hàng nghìn tác nhân AI đang chạy song song, cùng tương tác với một tập hợp trạng thái chung, và

7:00 cùng dùng chung bộ nhớ. Vậy nên, từ đó sẽ có một vài đặc điểm quan trọng. Một là trang bị cho tác nhân khả năng linh hoạt kết hợp giữa phiên hiện tại và và công việc nó đang làm cùng các kho nhớ mà nó truy cập được. Một đặc điểm của bộ nhớ và tác nhân được quản lý là phạm vi quyền hạn. Khả năng để một tác nhân chỉ có quyền truy cập đọc vào một kho lưu trữ bộ nhớ, và có thể kho lưu trữ đó là tri thức chung của toàn tổ chức, gồm các quy tắc thực hành tốt nhất. có sổ tay hướng dẫn xử lý tác vụ thường gặp và bộ nhớ đọc-ghi cho phần khác. một kho lưu trữ bộ nhớ. Có thể đây là ví dụ khác, nơi tác nhân có bộ nhớ làm việc cụ thể hơn nhiều và và được cập nhật thường xuyên theo công việc nó đang làm. Một đặc điểm quan trọng khác được rút ra từ điều này là khả năng xử lý đa nhiệm.

7:47 Nếu có hàng trăm hay thậm chí hàng ngàn tác nhân cùng tương tác với một bộ nhớ duy nhất tại cùng một thời điểm, trạng thái, nó cần phải đảm bảo không làm mất hay ghi đè lên bộ nhớ đó. Nó vẫn hoạt động. Chúng tôi dùng cơ chế đồng thời lạc quan, cho phép một tác nhân Về cơ bản, dùng mã băm nội dung để kiểm tra xem có ghi đè bộ nhớ của tác nhân khác trước khi thực hiện. nó thực sự cập nhật. Từ những cuộc trò chuyện với khách hàng, điều cuối cùng và quan trọng nhất mà chúng ta rút ra được chính là Kiểm soát từ nhà phát triển và doanh nghiệp cho các tác nhân AI thực tế. Từ đó rút ra vài điểm, trong đó tính năng được mong chờ nhất là version. lịch sử Đó là khả năng để các nhà phát triển xây dựng các tác nhân AI được quản lý có thể xem toàn bộ quá trình kiểm toán.

8:35 ghi lại nhật ký mọi lần cập nhật bộ nhớ và cung cấp cho Claude, Anthropic khả năng truy cập thông tin này. và sau này, họ vẫn truy cập được nhật ký kiểm toán để theo dõi những thay đổi đã thực hiện và thời điểm diễn ra. Ngoài ra, còn có thông tin định danh để xác định chính xác tác nhân nào đã thực hiện việc cập nhật đó. Chúng ta có thể biết thời điểm cập nhật, phiên làm việc nào thay đổi, và đi sâu đến từng chi tiết nhỏ nhất. Điều này dễ dự đoán và nằm trong tầm kiểm soát của Claude, Anthropic. Một kết quả khác là API độc lập. Chúng tôi đã nói chuyện với nhiều khách hàng xây dựng hệ thống tùy chỉnh ngoài các tác nhân được quản lý để Quản lý và cập nhật bộ nhớ của Claude và Anthropic. Chúng tôi hợp tác với khách hàng quét dữ liệu nhạy cảm (PII) để đảm bảo bộ nhớ không chứa thông tin riêng tư. Điều đó không nên có. Chúng tôi cũng làm việc với khách hàng muốn dọn dẹp bộ nhớ trong hệ thống riêng của họ.

9:22 hoặc sao chép chúng sang các hệ thống bên ngoài. Chúng tôi không muốn khách hàng bị khóa vào một hệ thống riêng chỉ để quản lý agent. Chúng tôi tạo API di động để họ tự kiểm soát các chức năng bổ sung này. Vì vậy, để làm được điều này, Để có cái nhìn tổng quan, chúng tôi bắt đầu phác họa các lớp khác nhau mà chúng ta cần làm việc. Chúng tôi xây dựng hệ thống ghi nhớ tiên tiến. Chúng ta đã đề cập đến lớp lưu trữ, nơi dữ liệu thực sự được lưu giữ, cũng như những thông tin mô tả và dữ liệu ghi nguồn nào chúng ta sẽ lưu trữ cùng với nó. Chúng ta cũng đã thảo luận về cấu trúc và lớp nội dung. Điều này bao gồm quyết định mô phỏng tệp tin và bộ nhớ dưới dạng file trong hệ thống lưu trữ của Claude, Anthropic. và trước đó, chúng ta đã nói về kỹ năng như trí nhớ thủ tục với đặc tả khá nhẹ nhàng.

10:10 chúng ta có thể hướng dẫn AI cách học để thực hiện khả năng mới này và trang bị cho chính nó những công cụ cần thiết. kiến thức mới. Và tiếp theo là lớp quy trình xử lý. Cụ thể là: bộ nhớ cập nhật bao lâu một lần và điều gì kích hoạt việc cập nhật đó. và những nguồn thông tin nào nó sử dụng để quyết định những thay đổi cần thực hiện đối với bộ nhớ đó. và có thêm điều mới để học. Chúng tôi tin rằng bộ nhớ tác nhân và API vừa thảo luận đã giải quyết một phần vấn đề. điều này. Tuy nhiên, khi mở rộng sang các hệ thống đa tác nhân phức tạp hơn, chúng tôi cũng thấy một điều. Chúng tôi gặp nhiều hạn chế, như thiếu dữ liệu trong bộ nhớ và các phiên làm việc của Claude. những điều mà các tác nhân và phiên trước đã tự khám phá ra. Chúng tôi thấy nhiều lỗi và mẫu hành vi lặp lại ở các tác nhân như Claude và Anthropic.

10:56 làm việc cùng môi trường. Chúng tôi cũng thấy chúng chưa thực sự hiệu quả khi duy trì kho lưu trữ bộ nhớ quy mô lớn này và và cập nhật chúng một cách toàn diện và hiệu quả. Chúng thường bị cô lập, chỉ lo nhiệm vụ cụ thể đang làm. Vì vậy, trong vài tháng qua, chúng tôi đã thử nghiệm một số loại khác nhau của để bổ sung thêm cho điều này. Và chúng tôi đã chọn ra một giải pháp. Chúng tôi gọi quá trình này là "Giấc mơ". Hôm nay, chúng tôi ra mắt tính năng này trong bản xem trước nghiên cứu qua API Managed Agents. Dreaming giúp tìm kiếm các mẫu hành vi và sai sót trong các phiên làm việc gần đây của agent của bạn, đồng thời nó phân tích bản ghi để tự động tạo nội dung ghi nhớ được tổ chức và luôn cập nhật.

11:42 Chúng tôi đã thử nghiệm cùng một số khách hàng như Harvey ngay khi họ triển khai. Ví dụ, trong bài kiểm tra pháp lý của họ mô phỏng tình huống thực tế, họ đã áp dụng quy trình này. Tỷ lệ hoàn thành nhiệm vụ trong tình huống pháp lý của họ tăng gấp sáu lần. Chúng tôi rất háo hức xem khách hàng khác ứng dụng các tình huống này khi bắt đầu thử nghiệm. Bản xem trước nghiên cứu này. Vì vậy, hãy cùng tìm hiểu xem tại sao chúng tôi lại rất hào hứng với nó. Từ ý tưởng "giấc mơ" ban đầu đến các cân nhắc về thiết kế và vận hành mà chúng tôi luôn ghi nhớ, Chúng tôi thiết kế nó. Vậy "giấc mơ" hoạt động ra sao? Nó là một quy trình xử lý theo lô chạy song song, hoạt động độc lập với công việc chính. những gì bạn làm trong một phiên cụ thể để hoàn thành nhiệm vụ. Bạn có thể tắt chế độ giấc mơ. Định kỳ, bạn có thể sử dụng bảng điều khiển hoặc API của chúng tôi theo lịch trình tự động. Hoặc bạn có thể tích hợp nó vào một quy trình hiện có thông qua API của chúng tôi.

12:35 Ví dụ, một số khách hàng kích hoạt Dreaming khi tác nhân AI hoàn thành nhiệm vụ và đang chờ. và muốn lưu lại những bài học đó vào trạng thái bộ nhớ. Và Dreaming rà soát kỹ các bản ghi gần đây để tìm lỗi thường gặp cũng như những điểm mà một như các tác nhân AI khác đang làm, từ lỗi gọi công cụ đến chiến lược hiệu quả, và phát hiện ra Cơ hội cập nhật bộ nhớ để Claude ngày càng thông minh hơn trong tương lai. Nó tạo ra trạng thái bộ nhớ mới, giúp bạn cập nhật ngay vào kho lưu trữ của Claude. Hoặc bạn có thể kiểm tra và rà soát thủ công qua API. Mục tiêu của "giấc mơ" là tự học và tự hoàn thiện liên tục, giúp những bước tiếp theo Các tác nhân ngày hôm sau tự động thông minh hơn nhờ học hỏi từ kinh nghiệm ngày trước.

13:24 Chúng tôi rất hào hứng với khái niệm "giấc mơ" này dưới góc độ thiết kế và nghiên cứu. Vì một vài lý do. Đặc điểm đầu tiên này có thể so sánh với các API lưu trữ mà chúng ta đã thảo luận trước đó. Giấc mơ diễn ra ngoài luồng, tức là bên ngoài khi một tác nhân AI đang làm việc. một phiên làm việc hay nhiệm vụ cụ thể của Claude. Điều này mang lại vài lợi ích. Lợi ích đầu tiên là nó rất phù hợp với các hệ thống đa tác nhân. Khi một tác nhân đơn lẻ đọc và ghi vào bộ nhớ, nó sẽ có góc nhìn từ chính bản thân mình. có bối cảnh và nhiệm vụ riêng. Tuy nhiên, cơ chế "giấc mơ" giúp ta quan sát nhiều tác nhân cùng lúc, vượt lên trên giới hạn thông thường. phát hiện những mẫu hình và bài học chung mà một tác nhân đơn lẻ có thể bỏ sót. từ góc nhìn hạn hẹp của riêng nó. Nếu xét trên phương diện thiết kế hệ thống điều khiển,

14:13 Chúng tôi cũng thấy rằng các tác nhân cần có ranh giới rõ ràng và cụ thể. mục tiêu rõ ràng khi bắt đầu nhiệm vụ. Vì vậy, việc "giấc mơ" thực sự giúp chúng ta tách biệt mục tiêu mới này là nâng cao chất lượng trí nhớ. Vì chúng tôi tin rằng trong vài tháng tới, bộ nhớ sẽ ngày càng quan trọng và đóng vai trò then chốt. kết quả thực tế và công việc các tác nhân đang làm. Nhờ đó, chúng ta có thể tách biệt mục tiêu nâng cao chất lượng trí nhớ khỏi nhiệm vụ hoàn thành công việc. mục tiêu về hiệu suất công việc mà nhiều tác nhân đã có sẵn ngay từ hôm nay. Và một lần nữa, bởi vì quá trình "mơ" diễn ra ở một kênh riêng biệt, chạy ngầm trong nền, nó không làm việc này không làm tăng độ trễ cho quy trình chính của tác nhân khi thực hiện nhiệm vụ. Một góc nhìn thiết kế khác mà chúng ta

14:59 Điều khiến tôi hào hứng là khả năng tích hợp hệ thống bộ nhớ quy mô lớn vào Claude của Anthropic. Cách dùng sức mạnh tính toán để tạo và quản lý chúng. Hôm nay, hầu hết các hệ thống bộ nhớ hiện nay đều chỉ tập trung vào từng người dùng cụ thể hoặc một nhiệm vụ cụ thể hoặc một nhóm nhỏ cùng làm việc. Tuy nhiên, hệ thống tác nhân đang nhanh chóng mở rộng quy mô doanh nghiệp, ngay cả tại Anthropic. cũng như tại các doanh nghiệp khác như Cursor, và cả Cursor nữa, mà chúng tôi đang hợp tác. và cả Cursor nữa. Nhờ đó, điều này dần dần hình thành nên một kho kiến thức thực sự đồ sộ. thay vì chỉ là một nơi lưu trữ đơn thuần để ghi nhớ ngữ cảnh làm việc cho từng nhiệm vụ cụ thể. Để hỗ trợ điều này, chúng ta cần tìm cách giúp Claude mở rộng hệ thống ghi nhớ lên quy mô rất lớn.

15:45 vừa mới mẻ, cập nhật, lại không tốn nhiều token. "Mơ" giúp ta làm điều này bằng cách tuân theo các quy tắc mở rộng quy mô tương tự khi dùng Claude của Anthropic. cần thêm tài nguyên và công sức để giữ hệ thống ghi nhớ của Claude và Anthropic luôn ngăn nắp. Một cách hình dung là xem xét test time compute hay các mô hình suy nghĩ từ vài năm trước. Cách đây vài năm, khi cho AI tự khám phá và thử nghiệm nhiều hướng, đặc biệt là Dùng nhiều token hơn giúp Claude và Anthropic đạt kết quả tốt hơn cho nhiệm vụ. đang phát triển. Giấc mơ cũng giúp tác nhân Claude của Anthropic dùng nhiều token hơn để duy trì những Hệ thống được sắp xếp gọn gàng và cập nhật cùng Claude, Anthropic. Một góc nhìn khác ở đây là giống như một hệ thống tìm kiếm, nơi chúng ta dành công sức ngay từ đầu để

16:30 tạo chỉ mục chất lượng cao, luôn cập nhật để dùng cho các bước tiếp theo. khi tìm kiếm, bạn sẽ lấy kết quả mới nhất từ Claude và Anthropic cực nhanh và hiệu quả. Dreaming cũng giúp ta làm điều này bằng cách tạo ra một hệ thống mới. Tạo chỉ mục ngay từ đầu và tinh chỉnh để các tác nhân AI sau này cùng sử dụng. Nhờ đó, ta phân bổ hiệu quả công sức này cho mọi tác nhân AI truy cập kho lưu trữ trí nhớ. Nhờ có trí nhớ và khả năng mơ mộng trong Managed Agents API, chúng ta bắt đầu hình dung bức tranh toàn cảnh này. đó là hệ thống trí nhớ tiên tiến nhất hiện nay, ít nhất là cho đến thời điểm này. Nhớ bên trái là công cụ giúp tác nhân AI đọc thông tin ngay lập tức theo thời gian thực. và ghi chép, lưu nhớ thông tin khi làm việc.

17:16 Còn "mơ" là quy trình toàn diện dựa trên nền tảng đó để kiểm tra thông tin của Claude và Anthropic. để quản lý, sắp xếp và bổ sung thông tin cho bộ nhớ của Claude và Anthropic. dựa trên những nhiệm vụ mà các tác nhân AI thực hiện trong suốt một ngày. "Mơ" chính là cầu nối giữa các hệ thống ghi nhớ trung gian và quy mô lớn hơn. những kho tri thức mà chúng tôi tin rằng sẽ trở nên rất nổi bật trong vài tháng tới. Vì vậy, hãy cùng xem một bản demo nhanh. Điều chúng ta đang xem xét ở đây chính là một tác nhân SRE. Để chắc chắn Claude bắt đầu, tôi kiểm tra lại. Xong, nó hoạt động rồi. Nó sẽ theo dõi các cảnh báo đang đến và phản ứng dựa trên thông tin đó. Dựa trên cảnh báo, hệ thống khởi động tác nhân riêng để phân loại ưu tiên, đôi khi xử lý thêm.

18:04 nó khởi động agent để gửi PR. Và mỗi tác nhân đều có vài kho lưu trữ thông tin. Nó có kho lưu trữ kiến thức dùng chung cho toàn bộ tổ chức. Nó có SRE và bộ nhớ lưu trữ dựa trên mã nguồn. Như vậy, khi truy cập kho nhớ chung của tổ chức, bạn sẽ thấy nó chỉ ở chế độ đọc. Nói đơn giản, đó là các quy trình vận hành và hướng dẫn về SLO. Nó còn chỉ dẫn cho các tác nhân AI đến đúng chủ sở hữu mà họ cần liên hệ, và điều này không bị mất đi. Thông tin được cập nhật thường xuyên, tránh để AI tự ý thay đổi trong quá trình làm việc. Ngoài ra, còn có kho lưu trữ trí nhớ SRE cho phép đọc và ghi, và tất nhiên, các tác nhân SRE có thể liên tục điều chỉnh kho lưu trữ này khi chúng phản ứng và học hỏi từ môi trường xung quanh. Khi nhận cảnh báo P1 từ dịch vụ điều phối, chúng ta sẽ khởi động ngay một tác nhân SRE để xử lý.

18:54 một tác nhân sẽ khởi động điều tra ngay lập tức. Nó sẽ tiến hành kiểm tra mức độ sử dụng CPU. Có thể nó sẽ kiểm tra lưu lượng truy cập và các yêu cầu cập nhật (PR) gần đây. Khi triển khai, nó ghi lại các bài học nếu ta truy cập kho nhớ SRE của Claude. Và nó sẽ ghi lại những điểm này vào một bản cập nhật mới, sau đó lưu vào kho lưu trữ trí nhớ đó. Vài phút sau, cảnh báo tương tự lại được gửi đi, và một tác nhân SRE khác sẽ tiếp nhận. Nó khởi động và truy cập cùng kho nhớ. Điều đầu tiên nó làm là đọc ghi chú trong bộ nhớ: "Này, chúng ta đã xử lý việc này rồi." Chúng tôi phát hiện cách giúp bạn bỏ qua thông tin này, từ đó tiết kiệm đáng kể. Nó tiết kiệm thời gian đáng lẽ phải mất để điều tra lại những vấn đề tương tự. Nhờ đó, Claude của Anthropic ngay lập tức tăng hiệu quả xử lý và trí tuệ, vì giờ nó đã hiểu rõ những gì cần thiết.

19:44 Nếu không, nó có thể tự điều tra. Rất tuyệt, nhưng chúng ta cần triển khai được nó vào thực tế. Khi dùng trong doanh nghiệp, hãy đảm bảo độ tin cậy và theo dõi được cách ra quyết định dẫn đến kết quả cụ thể. Một số kết quả cụ thể. Nếu vào kho lưu trữ, bạn sẽ thấy lịch sử phiên bản của Claude. Nó ghi lại mỗi lần cập nhật, ta đều có thể quay ngược thời gian xem chính xác điều gì đã xảy ra. Chúng ta cũng biết được tác nhân nào đã thực hiện thay đổi. Khi nào nội dung được viết? Chúng ta cũng có mã băm điều kiện nhỏ, giúp thực hiện cách tiếp cận lạc quan của Claude và Anthropic. Giả sử tôi đã thay đổi, hãy kiểm tra xem nó đúng chưa trước khi ghi đè lên. nó. Chúng ta vừa nói về bộ nhớ tác nhân, giờ hãy xem Dreaming giúp ích ra sao. Hệ thống bộ nhớ toàn diện và cập nhật hơn.

20:30 Vì vậy, chúng ta sẽ chuyển sang giao diện điều khiển của Claude. nơi mà nó thực sự phản ánh chính xác trạng thái của những gì chúng ta đang xem trong API. Đó là các kho lưu trữ bộ nhớ chúng ta đã tạo. Giờ ta sẽ chọn kho "Team SRE", nơi mà Nơi này lại phản ánh bộ nhớ mới nhất mà ta vừa ghi. Nếu chúng ta chuyển sang tab "Giấc mơ", cụ thể là ở đây, chúng ta sẽ thấy... Chúng ta có thể khởi động tác vụ Dreaming để cập nhật và tạo một ký ức cụ thể. lưu trữ, và tôi muốn xem lại nhiều phiên làm việc mà chúng ta đã theo dõi trong bảy ngày qua. qua bảy ngày. Đây là các phiên liên quan đến kho ký ức này, chúng ta sẽ khởi động tác vụ "Giấc mơ" để xem xét. Như vậy, tôi sẽ nhấp vào mục "Giấc mơ" để chúng ta có thể xem xét một số công việc đã được thực hiện. Nó đang xử lý bên trong: "Này, đây là các phiên đầu vào mà tôi sẽ dành thời gian xem xét."

21:17 Nó sẽ xem qua các bản ghi, khởi động ngay một phiên làm việc trên bảng điều khiển Claude để bạn có thể Hãy kiểm tra những gì đang diễn ra. Hệ thống xem xét từng mục trong bản ghi và sẽ khởi động nhiều phiên làm việc mới. những tác nhân phụ sẽ đi rà soát các bản ghi âm đó, cố gắng xác định những bài học rút ra, và sau đó cập nhật trạng thái bộ nhớ. Chúng ta sẽ tua nhanh vài phút để xem kết quả công việc "giấc mơ" đã hoàn thành từ Claude và Anthropic. kết quả đầu ra là. Nó tạo ra bản diff, tập hợp các tệp cập nhật để áp dụng vào kho lưu trữ bộ nhớ này. Đầu tiên, đây là cập nhật về độ trễ gửi tin nhắn mà ta đã xem trong demo trước. Nó báo: "Này, nhiều tác nhân được kích hoạt đúng 60 giây sau sự kiện từ hệ thống phía trước." CPU tăng vọt đột ngột. Dựa trên mô hình đó, hệ thống tự động nhận ra rằng có thể đang có cơ chế thử lại được kích hoạt.

22:05 Việc này kém hiệu quả, gây lãng phí thời gian khi phân loại vấn đề. Vì vậy, hệ thống nhận ra rằng từng tác nhân riêng lẻ thực sự không để ý đến mô hình này. Họ không biết các tác nhân khác cũng thấy mẫu 60 giây này mỗi lần, khiến... Lưu ý: Mục tiêu là giúp các tác nhân tương lai học hỏi và tự giải quyết vấn đề nhanh hơn. Nó cũng giúp loại bỏ thông tin trùng lặp và tinh lọc dữ liệu một cách hiệu quả. Nó thấy có 5 mục giống hệt từ các tác nhân trước đang làm việc với Claude của Anthropic. Nó lưu vào kho nhớ và gộp thành một mục duy nhất. Nó cũng sẽ loại bỏ những mục đã lỗi thời và không còn hiệu lực mà nó phát hiện được trong bản ghi. khi thấy thông tin không còn phù hợp, nó sẽ thêm ghi chú xác nhận. Nó xác nhận: "Dựa trên bản ghi vừa xem, thông tin ghi nhớ này hoàn toàn chính xác."

22:50 Tôi đã xác minh qua công việc của agent, nên bạn hoàn toàn có thể tin tưởng kết quả này từ Claude và Anthropic. Ngày hôm sau, khi dùng lại trí nhớ này trong cùng kho lưu trữ, Claude vẫn nhớ. Như vậy, các bước xác minh và bổ sung này chính là nền tảng cho trí nhớ và khả năng mơ mộng của Claude. Rất hữu ích cho Claude, Anthropic. Qua demo này, chúng ta thấy cách xây dựng các tác nhân AI thực tế cho môi trường sản xuất. API trí nhớ và mơ mộng trong hệ thống quản lý tác nhân AI của Claude. Và để kết thúc, tôi tin rằng trong vài tháng tới, chúng ta sẽ thấy các tác nhân AI bắt đầu hoạt động. liên tục nhiều ngày hoặc nhiều giờ đồng hồ. Và tôi tin rằng trí nhớ sẽ đóng vai trò then chốt trong hệ thống đó, cùng với những khả năng khác. nhờ đó, điều này trở nên khả thi. Tôi rất háo hức xem mọi người xây dựng gì với Memory và Dreaming trong Cloud Managed Agents API. Vì vậy, bạn hãy bắt tay vào thực hiện ngay hôm nay. Xin cảm ơn.

23:53 Xin cảm ơn. Cảm ơn bạn. Cảm ơn.

Share

YouTube Video Summaries