Vào ngày 2 tháng 4, Microsoft đã công bố khởi động dự án phần mềm nguồn mở mới, Bộ công cụ quản trị tác nhân, nhằm nỗ lực thiết lập hệ thống quản trị bảo mật thời gian chạy trong lĩnh vực tác nhân AI tự trị. Bộ công cụ này có nguồn mở theo giấy phép MIT và hướng tới các nhà phát triển và doanh nghiệp muốn triển khai các ứng dụng tác nhân trong môi trường sản xuất với nhiều quyền kiểm soát hơn.
Microsoft tuyên bố rằng bộ công cụ này là bộ công cụ đầu tiên giải quyết tất cả 10 "rủi ro AI của tác nhân" do OWASP đề xuất vào năm ngoái. Mười rủi ro này bao gồm: chiếm quyền điều khiển mục tiêu, lạm dụng công cụ, lạm dụng danh tính, rủi ro chuỗi cung ứng, rủi ro thực thi mã, đầu độc bộ nhớ, mất an ninh liên lạc, lỗi xếp tầng, khai thác niềm tin giữa người và máy và "tác nhân lừa đảo", v.v., nhằm giải quyết các vấn đề bảo mật hệ thống có thể phát sinh khi các tác nhân điều khiển mô hình lớn hiện tại thực hiện các nhiệm vụ phức tạp. Dự án hiện hỗ trợ nhiều hệ sinh thái ngôn ngữ như Python, Rust, TypeScript, Go và .NET, đồng thời cung cấp khả năng quản trị thống nhất cho các môi trường phát triển chính thống.
Về mặt kiến trúc cụ thể, Bộ công cụ quản trị tác nhân bao gồm nhiều mô-đun tương ứng với các liên kết bảo mật chính trong vòng đời thời gian chạy tác nhân. Agent OS được định vị là một công cụ chính sách, được sử dụng để chặn và đánh giá các chính sách trước khi mỗi hành vi của tác nhân được thực thi thực sự, từ đó chặn các hoạt động không an toàn hoặc trái phép ở cấp hành động. Agent Mesh tập trung vào giao tiếp an toàn giữa các tác nhân để đảm bảo rằng việc truyền thông tin trong các tình huống cộng tác đa tác nhân được bảo vệ và giảm nguy cơ rò rỉ dữ liệu cũng như giả mạo lệnh.
Đối với môi trường thực thi và quản lý cấp chạy, Microsoft cung cấp Agent Runtime, được dùng để triển khai các "vòng" thực thi động để các hoạt động có mức độ nhạy cảm và cấp phép khác nhau có thể chạy trong các miền bảo mật biệt lập. Đồng thời, mô-đun Agent SRE được sử dụng để cung cấp các biện pháp bảo vệ an ninh thời gian chạy khác nhau và đảm bảo tính ổn định nhằm giúp các nhà phát triển giám sát và xử lý các hành vi bất thường trong môi trường sản xuất. Tập trung vào các yêu cầu tuân thủ, Tuân thủ Đại lý hỗ trợ xác minh tuân thủ tự động và đánh giá mức độ tuân thủ, cung cấp hỗ trợ kỹ thuật cho các nhu cầu kiểm toán nội bộ và giám sát bên ngoài của công ty.
Về mặt sinh thái và khả năng mở rộng, Agent Marketplace được sử dụng để quản lý vòng đời của plug-in, cung cấp khả năng quản trị tích hợp từ giới thiệu, cập nhật đến ngoại tuyến và giúp kiểm soát các rủi ro về chuỗi cung ứng và sự phụ thuộc do các công cụ và thành phần của bên thứ ba gây ra. Đối với quá trình đào tạo các tổng đài viên, mô-đun Agent Lightning cung cấp khả năng quản trị cho các tình huống đào tạo như học tăng cường, cố gắng triển khai các yêu cầu về bảo mật và tuân thủ trong quá trình lặp lại mô hình liên tục và tối ưu hóa chính sách, không chỉ trong giai đoạn suy luận và thực thi.
Microsoft nhấn mạnh rằng bộ công cụ này là "nguồn mở theo thiết kế" và sử dụng giấy phép MIT để mở mã để cộng đồng và doanh nghiệp có thể mở rộng và tích hợp trên cơ sở hiện có. Đối với những người dùng sẵn sàng giao phó các tác nhân AI của họ cho các giải pháp của Microsoft một cách an toàn, bạn có thể tìm hiểu thêm chi tiết kỹ thuật thông qua Blog Mã nguồn Mở của Microsoft. Mã nguồn dự án hiện được lưu trữ trong kho GitHub và các nhà phát triển được hoan nghênh tham gia thử nghiệm và phản hồi.