Microsoft phát triển Dapr Agents, giúp các nhà phát triển xây dựng đại lý AI với khả năng điều phối và quản lý trạng thái hiệu quả trong môi trường phân tán.
Từ một runtime phân tán được Microsoft giới thiệu vào năm 2019, Dapr đã phát triển thành một công cụ quan trọng trong việc xây dựng các ứng dụng microservice. Hôm nay, với sự ra mắt của Dapr Agents, nền tảng này đã chính thức bước vào lĩnh vực AI, cung cấp cho các nhà phát triển những công cụ cơ bản để xây dựng đại lý AI (AI agents) hiệu quả.
Dapr vốn đã hội tụ nhiều yếu tố thuận lợi cho việc xây dựng đại lý AI ngay từ đầu. Một trong những tính năng cốt lõi của nó là khái niệm về các diễn viên ảo (virtual actors), có khả năng nhận và xử lý thông điệp độc lập. Yaron Schneider, đồng sáng lập và người duy trì Dapr, khẳng định: “Đại lý là một trường hợp sử dụng rất tốt đối với Dapr. Về mặt kỹ thuật, bạn có thể sử dụng các diễn viên như một cách rất nhẹ để chạy các đại lý này và thực sự có thể vận hành chúng ở quy mô lớn với trạng thái — và hiệu quả tài nguyên.”
Từ Floki đến Dapr Agents
Dapr Agents được phát triển dựa trên Floki – một dự án mã nguồn mở đã mở rộng Dapr cho trường hợp sử dụng đại lý AI. Sau khi làm việc với các nhà duy trì dự án, trong đó có nhà nghiên cứu AI của Microsoft Roberto Rodriguez, các nhóm đã quyết định tích hợp dự án này vào hệ sinh thái Dapr nhằm đảm bảo tính liên tục và phát triển của framework.
Mark Fussell, đồng sáng lập và người duy trì Dapr, nhìn nhận hệ thống đại lý như một khái niệm khác của hệ thống phân tán: “Thay vì gọi chúng là microservices, giờ đây bạn có thể gọi chúng là đại lý, chủ yếu vì bạn có thể đặt các mô hình ngôn ngữ lớn (LLM) vào giữa chúng tất cả.”
Điểm mạnh của Dapr Agents nằm ở khả năng điều phối và quản lý trạng thái hiệu quả. Các diễn viên ảo của Dapr được thiết kế để khởi động chỉ trong vài mili giây khi nhận được thông điệp, và khi hoàn thành nhiệm vụ, chúng sẽ tắt và lưu trữ trạng thái, tối ưu hóa việc sử dụng tài nguyên.
Hiện tại, Dapr Agents hỗ trợ tích hợp với nhiều nhà cung cấp mô hình AI hàng đầu như AWS Bedrock, OpenAI, Anthropic, Mistral và Hugging Face. Hỗ trợ cho các LLM cục bộ (local LLMs) cũng sẽ sớm được triển khai. Ngoài ra, do được xây dựng trên nền tảng Dapr, các nhà phát triển có thể định nghĩa danh sách công cụ mà đại lý có thể sử dụng để hoàn thành nhiệm vụ cụ thể.
Về khía cạnh ngôn ngữ lập trình, Dapr Agents hiện hỗ trợ Python, với .NET sắp được ra mắt. Hỗ trợ cho Java, JavaScript và Go cũng đang trong kế hoạch phát triển.
